Shadow AI: чем рискует компания, когда сотрудники сами используют ChatGPT

Shadow IT это знакомая ситуация: сотрудники пользуются приложениями, которые не одобрил ИТ-отдел. Shadow AI (теневой ИИ) это то же самое, но ставки выше, ведь самое ценное, что попадает в ИИ-инструменты, это данные.

Как это выглядит

Менеджер по продажам вставляет целое коммерческое предложение, чтобы получить более удачное письмо. Юрист загружает договор, чтобы получить краткое изложение. Разработчик отправляет часть кодовой базы. У каждого благие намерения, и каждый использует личный аккаунт.

Риски

• Данные: конфиденциальная информация оказывается в инструментах без корпоративного соглашения.
• Расходы: десятки личных подписок, которые никто не отслеживает.
• Качество: каждый использует свой инструмент и подход, поэтому результаты несогласованы.
• Знания: удачные промпты и решения остаются в личных аккаунтах и уходят вместе с сотрудником.

Решение: контролируемое ИИ-пространство

Вместо запрета компания дает сотрудникам один инструмент, который лучше того, чем они пользуются в частном порядке, и при этом под контролем:

• доступ ко всем ведущим моделям в одном месте,
• бюджеты и лимиты для пользователя и команды,
• общий корпоративный и проектный контекст,
• отслеживание использования и расходов,
• правила о том, какие модели и коннекторы разрешены.

Именно поэтому наша команда создала Intrascope.

Первые шаги

1. Анонимный опрос: кто какими инструментами пользуется и для чего.
2. Краткая политика использования ИИ: что можно и что нельзя.
3. Одобренный инструмент для всех.
4. Часовое обучение для команды.

Также читайте безопасность данных и ИИ. Чтобы внедрить ИИ в вашей компании, отправьте заявку.