Как чат с нейросетью чуть не слил пароли от базы
Разработчики вставляли реальные пароли и ключи в переписку с ИИ-помощником — и были уверены, что черновик его рассуждений никто никогда не увидит. Ошибались.
Аудит небольшой ИТ-студии, 20 разработчиков на аутсорсе. Стандартная картина: ребята гоняют код через нейросеть-помощника — просят найти баг, объяснить ошибку, ускорить дебаг. В переписку копируют куски конфигов «как есть». А там реальные пароли от боевых баз и токены доступа к серверам клиентов.
Логика простая: «черновик мыслей» ИИ — это внутренняя кухня модели, её никто не видит, значит и утечки не будет. На деле такие скрытые рассуждения технически можно вытащить целиком, и это уже не гипотеза. Недавно исследователи по безопасности прогнали такой метод по открытым логам и нашли в чужих «надёжно скрытых» черновиках сотни паролей и ключей доступа — люди годами были уверены, что эти данные никто не прочитает.
Посчитал риск для студии: один из клиентов — производственная компания с контрактом около 3 млн ₽ в год. Утечка доступа к их базе — это не просто штраф по 152-ФЗ, это потерянный клиент и репутация на рынке, где все друг друга знают.
• Запретил вставлять в диалоги с нейросетями реальные пароли и токены — только заглушки • Перенёс секреты в отдельное хранилище с ограниченным доступом вместо конфигов «в открытую» • Настроил автоматическую проверку текста перед отправкой в внешние сервисы и уведомление руководителю, если она находит что-то похожее на пароль или ключ
Работа заняла пару дней и стоила несопоставимо меньше, чем один потерянный клиент такого масштаба.
🔐 Черновик ИИ — не сейф. Проверяли, что именно ваша команда копирует в чаты с нейросетями?
