Das Unternehmen Anthropic führt nach Berichten von ARY News ein unsichtbares Wasserzeichen in alle Texte ein, die von seinem Claude AI generiert werden. Alle seit Anfang August veröffentlichten Modelle verfügen bereits über diese versteckte Tracking-Funktion, und das Unternehmen aktualisiert auch ältere Systeme vor der strengen Frist der Europäischen Union im Dezember.
Diese Woche wird die Kennzeichnung in die Ergebnisse der Modelle Claude Mythos 5, Opus 4.7 und Sonnet 4.6 aufgenommen. Die Einführung für Opus 4.6 wurde auf den 16. November verschoben, wenn auch ältere Modelle wie Opus 4.5, Sonnet 4.5 und Haiku 4.5 das Update erhalten. Da das Tracking auf Modellebene hinzugefügt wird, können Benutzer es nicht deaktivieren, unabhängig davon, ob sie die offiziellen Webanwendungen, die API oder Cloud-Dienste wie Amazon Web Services und Google Cloud nutzen.
Anthropic verwendet eine modifizierte Version der Google-Technologie SynthID, die die Wortwahl leicht verändert, um im Text ein mathematisches Muster zu erzeugen. Internen Dokumenten zufolge überlebt die Signatur einfaches Kopieren und Einfügen, aber starke Bearbeitung oder Übersetzung können sie beschädigen. Das Unternehmen gibt an, dass das Wasserzeichen keine persönlichen Daten der Benutzer oder Gesprächsverläufe enthält. Normale Benutzer können die Kennzeichnung derzeit nicht überprüfen, da das Erkennungswerkzeug nur in einer privaten Vorschauversion für Strafverfolgungsbehörden, Forscher und Medien verfügbar ist.
ARY News nennt auch technische Mängel des Systems. Bei API-Benutzern funktioniert das Wasserzeichen bei älteren Modellen nur zuverlässig, wenn Parameter wie Temperatur und top_p auf den Standardwerten bleiben. Das System unterscheidet auch nicht zwischen Text, den Claude von Grund auf geschrieben hat, und einem menschlichen Dokument, das die KI nur lektoriert hat. Anthropic hat diese globale Änderung eingeführt, um Artikel 50 des neuen EU-Gesetzes über künstliche Intelligenz zu entsprechen, was sich von OpenAI unterscheidet, das Wasserzeichen nur für europäische ChatGPT-Benutzer anwendet und sie für API-Kunden optional macht.
Was das für Unternehmen bedeutet
Für Unternehmen, die Claude über die API nutzen, bedeutet die Änderung, dass generierter Text eine versteckte Kennzeichnung tragen wird, die nicht entfernt werden kann, was interne Prozesse zur Inhaltsprüfung beeinflussen kann. Die Anpassung von Modellparametern könnte die Zuverlässigkeit der Erkennung schwächen, daher sollten Unternehmen, die auf die Überprüfung der Textauthentizität angewiesen sind, diese Einschränkungen berücksichtigen. Da die Regel global und nicht nur in der EU gilt, sollten Unternehmen, die auf mehreren Märkten tätig sind, ihre internen Richtlinien für die Nutzung von KI-Tools an die neuen Anforderungen anpassen.
Diese Zusammenfassung wurde mit KI auf Grundlage der genannten Quelle erstellt und automatisch geprüft. Genaue Details finden Sie im Originalartikel.