OpenAI сообщил, что создал систему экстренной остановки моделей, используемых в его исследовательских лабораториях, передает The Register. Система под названием Control Room описана как центральное место для мониторинга рабочих нагрузок моделей в исследовательской инфраструктуре компании и их быстрой остановки при возникновении проблем безопасности или защиты.
Согласно The Register, Control Room может прервать производство любого вывода модели через 35 секунд после принятия решения об остановке, а в некоторых случаях и быстрее. Эта задержка, по словам OpenAI, вызвана кэш-слоем для авторизации инференса, который необходим из-за объема трафика. Компания утверждает, что работает над сокращением этого времени до нуля, чтобы можно было останавливать задачи мгновенно.
OpenAI отмечает, что система создана так, чтобы продолжать работу даже при отказе других систем, а также останавливать вывод модели, если сам Control Room перестанет работать. Система, как сообщается, уже развернута в исследовательской инфраструктуре, где потребность наибольшая, тогда как внешняя инфраструктура для обслуживания моделей более централизована и имеет развитую оперативную способность быстрого прекращения развертываний.
Компания планирует в ближайшие месяцы усилить и расширить систему, инвестируя в мониторинг несоответствующего поведения и нарушений безопасности. The Register отмечает, что OpenAI не объяснил, почему выключатель был создан только сейчас, но напоминает, что компания еще в 2019 году решила не публиковать одну модель из-за опасений по поводу злонамеренного использования технологии.
Что это значит для компаний
Для компаний, использующих AI-модели в своих процессах, такая система указывает на необходимость централизованного надзора и четких процедур для экстренного отключения. Задержка в 35 секунд показывает, что скорость реакции зависит от архитектуры, поэтому для бизнес-систем важно заранее определить, кто и когда может остановить модель. Анонс расширения системы говорит о том, что управление рисками станет неотъемлемой частью предложения AI-платформ, что может повлиять на выбор поставщиков и на требования в закупках.
Это краткое изложение подготовлено с помощью ИИ на основе указанного источника и проверено автоматическими правилами. Точные детали смотрите в оригинальной статье.