Kompanija Anthropic uvodi nevidljivi vodenžig u sve tekstove koje generiše njen Claude AI, prema pisanju ARY News. Svi modeli objavljeni od početka avgusta već imaju ovu skrivenu funkciju praćenja, a kompanija ažurira i starije sisteme pred strogi rok Evropske unije u decembru.
Ove nedelje oznaka će biti uključena u rezultate modela Claude Mythos 5, Opus 4.7 i Sonnet 4.6. Uvođenje za Opus 4.6 odloženo je do 16. novembra, kada će ažuriranje dobiti i stariji modeli poput Opus 4.5, Sonnet 4.5 i Haiku 4.5. Pošto se praćenje dodaje na nivou samog modela, korisnici ne mogu da ga isključe, bez obzira na to da li koriste zvanične veb aplikacije, API ili cloud servise kao što su Amazon Web Services i Google Cloud.
Anthropic koristi modifikovanu verziju Google tehnologije SynthID, koja blago menja izbor reči kako bi se u tekstu stvorio matematički obrazac. Prema internim dokumentima, potpis preživljava osnovno kopiranje i lepljenje, ali ga teško uređivanje ili prevođenje mogu pokvariti. Kompanija navodi da vodenžig ne sadrži lične podatke korisnika ni istoriju razgovora. Obični korisnici za sada ne mogu da provere oznaku, jer je alat za detekciju dostupan samo u privatnoj pretpreglednoj verziji za organe reda, istraživače i medije.
ARY News navodi i tehničke nedostatke sistema. Kod API korisnika vodenžig pouzdano radi na starijim modelima samo ako parametri poput temperature i top_p ostanu na podrazumevanim vrednostima. Sistem takođe ne razlikuje tekst koji je Claude napisao od početka od ljudskog dokumenta koji je AI samo lektorisao. Anthropic je ovu globalnu promenu uveo radi usklađivanja sa članom 50 novog zakona EU o veštačkoj inteligenciji, što se razlikuje od OpenAI, koji vodenžigove primenjuje samo za evropske korisnike ChatGPT-a i čini ih opcionalnim za API klijente.
Šta ovo znači za firme
Za kompanije koje koriste Claude preko API-ja, promena znači da će generisani tekst nositi skrivenu oznaku koju nije moguće ukloniti, što može uticati na interne procese provere sadržaja. Prilagođavanje parametara modela moglo bi da oslabi pouzdanost detekcije, pa firme koje zavise od provere autentičnosti teksta treba da uzmu u obzir ove ograničenja. Pošto se pravilo primenjuje globalno, a ne samo u EU, kompanije koje posluju na više tržišta treba da usklade interne politike korišćenja AI alata sa novim zahtevima.
Sažetak je napisan uz pomoć AI na osnovu navedenog izvora i proveren automatskim pravilima. Za tačne detalje pogledajte originalni članak.