Компания OpenAI сообщила, что на Парижском форуме мира подписала Хартию о приверженности более безопасному искусственному интеллекту для детей и выделила два миллиона долларов на поддержку научно-исследовательской сети в рамках Коалиции за права и защиту детей в эпоху искусственного интеллекта.
Согласно сообщению компании, средства предназначены для совместной работы по измерению, то есть разработке инструментов, которые исследователи смогут использовать для лучшего понимания и измерения рисков и возможностей, которые искусственный интеллект приносит детям. Цель, как указывается, состоит в том, чтобы на основе этих знаний информировать более безопасные продукты и лучшую политику.
Хартия устанавливает общие принципы для безопасного искусственного интеллекта, соответствующего возрасту, вместе с исследовательской программой и защитными механизмами для ее независимости. Исследовательские группы сохраняют контроль над своими выводами, а результаты будут опубликованы, включая негативные или неокончательные findings.
OpenAI отмечает, что эта деятельность продолжает его усилия по установлению глобальных стандартов в области безопасности молодежи в искусственном интеллекте и по сотрудничеству правительств, исследователей, гражданского общества и промышленности. Компания также подтвердила поддержку всеобъемлющего законодательства о безопасности молодежи в ИИ, которое, как указывается, должно включать защитные меры, применяемые по умолчанию, инструменты для родителей, регулярные оценки рисков и четкую ответственность. В компании также заявили, что ожидают сотрудничества с европейскими политиками в ходе разработки акта EU Kids Act.
Что это значит для компаний
Для местных компаний, разрабатывающих цифровые продукты для детей, такие шаги крупных игроков могут предвещать более строгие требования к оценке рисков и защитные меры по умолчанию, особенно если аналогичные стандарты будут перенесены в европейское законодательство. Финансирование независимых исследований могло бы привести к общедоступным инструментам для измерения влияния ИИ на детей, что облегчило бы компаниям соответствие требованиям, но также усилило бы давление с целью подтверждения своих заявлений о безопасности данными. Компаниям, работающим на рынке ЕС, следует следить за развитием акта EU Kids Act, поскольку он может формировать условия ведения бизнеса и для партнеров из Сербии.
Это краткое изложение подготовлено с помощью ИИ на основе указанного источника и проверено автоматическими правилами. Точные детали смотрите в оригинальной статье.