ARY News'in haberine göre Anthropic, Claude AI'sı tarafından üretilen tüm metinlere görünmez filigran ekliyor. Ağustos başından itibaren yayımlanan tüm modeller bu gizli izleme özelliğine zaten sahip ve şirket, Aralık ayındaki katı Avrupa Birliği son tarihi öncesinde eski sistemleri de güncelliyor.
Bu hafta işaret, Claude Mythos 5, Opus 4.7 ve Sonnet 4.6 modellerinin çıktılarına dahil edilecek. Opus 4.6 için uygulama 16 Kasım'a ertelendi; bu tarihte Opus 4.5, Sonnet 4.5 ve Haiku 4.5 gibi eski modeller de güncellemeyi alacak. İzleme modelin kendi düzeyinde eklendiği için kullanıcılar resmi web uygulamalarını, API'yi veya Amazon Web Services ve Google Cloud gibi bulut hizmetlerini kullansalar da bunu devre dışı bırakamıyor.
Anthropic, metinde matematiksel bir desen oluşturmak için kelime seçimini hafifçe değiştiren Google'ın SynthID teknolojisinin değiştirilmiş bir sürümünü kullanıyor. İç belgelere göre imza, basit kopyalama ve yapıştırma işlemlerinden sonra varlığını koruyor ancak kapsamlı düzenleme veya çeviri onu bozabiliyor. Şirket, filigranın kullanıcıların kişisel verilerini veya sohbet geçmişini içermediğini belirtiyor. Sıradan kullanıcılar şu an işareti doğrulayamıyor çünkü algılama aracı yalnızca kolluk kuvvetleri, araştırmacılar ve medya için özel önizleme sürümünde mevcut.
ARY News ayrıca sistemin teknik eksikliklerine de dikkat çekiyor. API kullanıcılarında filigran, eski modellerde yalnızca temperature ve top_p gibi parametreler varsayılan değerlerde kaldığında güvenilir şekilde çalışıyor. Sistem ayrıca Claude'un sıfırdan yazdığı metni, yapay zekanın yalnızca düzelttiği insan belgesinden ayırt edemiyor. Anthropic bu küresel değişikliği yeni AB yapay zeka yasasının 50. maddesiyle uyum sağlamak için uygulamaya koydu; bu, filigranları yalnızca Avrupalı ChatGPT kullanıcıları için uygulayan ve API istemcileri için isteğe bağlı kılan OpenAI'den farklılık gösteriyor.
Şirketler için ne anlama geliyor
Claude'u API üzerinden kullanan şirketler için bu değişiklik, üretilen metinlerin kaldırılamayan gizli bir işaret taşıyacağı anlamına geliyor ve bu durum içerik doğrulama süreçlerini etkileyebilir. Model parametrelerinin uyarlanması algılama güvenilirliğini zayıflatabileceğinden, metin özgünlüğü doğrulamasına bağlı firmalar bu kısıtlamaları göz önünde bulundurmalı. Kural yalnızca AB'de değil küresel olarak uygulandığından, birden fazla pazarda faaliyet gösteren şirketler yapay zeka araçlarının kullanımına ilişkin iç politikalarını yeni gerekliliklerle uyumlu hale getirmeli.
Bu özet, belirtilen kaynağa dayanarak yapay zeka yardımıyla yazıldı ve otomatik kurallarla kontrol edildi. Kesin ayrıntılar için orijinal makaleye bakın.