Компанија Anthropic уводи невидљиви воденжиг у све текстове које генерише њен Claude AI, према писању ARY News. Сви модели објављени од почетка августа већ имају ову скривену функцију праћења, а компанија ажурира и старије системе пред строги рок Европске уније у децембру.
Ове недеље ознака ће бити укључена у резултате модела Claude Mythos 5, Опус 4.7 и Соннет 4.6. Увођење за Опус 4.6 одложено је до 16. новембра, када ће ажурирање добити и старији модели попут Опус 4.5, Соннет 4.5 и Хаику 4.5. Пошто се праћење додаје на нивоу самог модела, корисници не могу да га искључе, без обзира на то да ли користе званичне веб апликације, API или цлоуд сервисе као што су Амазон Web Сервицес и Google Цлоуд.
Anthropic користи модификовану верзију Google технологије SynthID, која благо мења избор речи како bi се у тексту створио математички образац. Према интерним документима, потпис преживљава основно копирање и лепљење, али га тешко уређивање или превођење могу покварити. Компанија наводи да воденжиг не садржи личне податке корисника ни историју разговора. Обични корисници за сада не могу да провере ознаку, јер је алат за детекцију доступан само у приватној претпрегледној верзији за органе реда, истраживаче и медије.
ARY News наводи и техничке недостатке система. Код API корисника воденжиг поуздано ради на старијим моделима само ако параметри попут температуре и топ_п остану на подразумеваним вредностима. Систем такође не разликује текст који је Claude написао од почетка од људског документа који је AI само лекторисао. Anthropic је ову глобалну промену увео ради усклађивања са чланом 50 новог закона EU о вештачкој интелигенцији, што се разликује од OpenAI, који воденжигове примењује само за европске кориснике ChatGPT-a и чини их опционалним за API клијенте.
Шта ово значи за фирме
За компаније које користе Claude преко API-ја, промена значи да ће генерисани текст носити скривену ознаку коју није могуће уклонити, што може утицати на интерне процесе провере садржаја. Прилагођавање параметара модела могло bi да ослаби поузданост детекције, па фирме које зависе од провере аутентичности текста треба да узму у обзир ове ограничења. Пошто се правило примењује глобално, а не само у EU, компаније које послују на више тржишта треба да ускладе интерне политике коришћења AI алата са новим захтевима.
Сажетак је написан уз помоћ AI на основу наведеног извора и проверен аутоматским правилима. За тачне детаље погледајте оригинални чланак.