Компания Anthropic внедряет невидимый водяной знак во все тексты, генерируемые ее Claude AI, по сообщению ARY News. Все модели, выпущенные с начала августа, уже имеют эту скрытую функцию отслеживания, а компания обновляет и более старые системы перед строгим сроком Европейского союза в декабре.
На этой неделе метка будет включена в результаты моделей Claude Mythos 5, Opus 4.7 и Sonnet 4.6. Внедрение для Opus 4.6 отложено до 16 ноября, когда обновление получат и более старые модели, такие как Opus 4.5, Sonnet 4.5 и Haiku 4.5. Поскольку отслеживание добавляется на уровне самой модели, пользователи не могут его отключить, независимо от того, используют ли они официальные веб-приложения, API или облачные сервисы, такие как Amazon Web Services и Google Cloud.
Anthropic использует модифицированную версию технологии Google SynthID, которая слегка изменяет выбор слов, чтобы создать в тексте математический шаблон. Согласно внутренним документам, подпись выдерживает базовое копирование и вставку, но ее могут нарушить серьезное редактирование или перевод. Компания утверждает, что водяной знак не содержит личных данных пользователей или истории разговоров. Обычные пользователи пока не могут проверить метку, так как инструмент обнаружения доступен только в закрытой предварительной версии для правоохранительных органов, исследователей и СМИ.
ARY News также указывает на технические недостатки системы. Для пользователей API водяной знак надежно работает на старых моделях только если параметры, такие как temperature и top_p, остаются на значениях по умолчанию. Система также не отличает текст, который Claude написал с нуля, от человеческого документа, который AI только отредактировал. Anthropic ввел это глобальное изменение для соответствия статье 50 нового закона ЕС об искусственном интеллекте, что отличается от OpenAI, которая применяет водяные знаки только для европейских пользователей ChatGPT и делает их опциональными для клиентов API.
Что это значит для компаний
Для компаний, использующих Claude через API, изменение означает, что сгенерированный текст будет нести скрытую метку, которую невозможно удалить, что может повлиять на внутренние процессы проверки контента. Настройка параметров модели может ослабить надежность обнаружения, поэтому фирмам, зависящим от проверки подлинности текста, следует учитывать эти ограничения. Поскольку правило применяется глобально, а не только в ЕС, компаниям, работающим на нескольких рынках, следует привести внутренние политики использования AI-инструментов в соответствие с новыми требованиями.
Это краткое изложение подготовлено с помощью ИИ на основе указанного источника и проверено автоматическими правилами. Точные детали смотрите в оригинальной статье.