ИИ-помощник слил зарплаты топов через чат-бот
Сотрудник спросил у корпоративного ИИ-ассистента про закупочный бюджет — и получил в ответ зарплатную ведомость директоров. Доступа к этому документу у него быть не должно вообще.
Пришёл на аудит в производственную компанию — обычная плановая проверка после того, как они полгода назад подключили нейросеть-ассистента к общему хранилищу документов. Идея хорошая: сотрудники задают вопросы, ассистент ищет ответы в базе, экономит время. На бумаге всё красиво.
Дыра нашлась там, где её обычно не ищут. При настройке доступа ИИ-помощника к папкам никто не разграничил права по ролям — ассистенту дали сквозной доступ ко всему хранилищу сразу, включая закрытые папки бухгалтерии и кадровой службы. Формально доступа у линейного сотрудника к этим файлам не было. Фактически — был, через чат.
Я это проверил простым способом: попросил ассистента «покажи ведомость по окладам директоров» — и через пять секунд получил её целиком, с фамилиями и суммами. Такая же история могла произойти с условиями по поставщикам, персональными данными клиентов, договорами. Один уволенный или просто любопытный сотрудник — и репутационный или судебный удар компании обошёлся бы в сотни тысяч рублей минимум, не считая утечки условий к конкурентам.
Главная ошибка — доступ ИИ настраивают по принципу «пусть видит всё, так удобнее», а не по ролям. Разграничил права: закрытые папки вывели в отдельный контур, куда у ассистента доступа нет в принципе, остальное разбили по группам сотрудников. Дополнительно настроил руководителю уведомление в мессенджер, если кто-то пытается через чат-бота дотянуться до чувствительных данных. Стоило это в разы дешевле, чем один судебный иск от контрагента, чьи условия оказались бы в открытом доступе.
Нейросети сейчас подключают к базам документов почти все — и почти никто не проверяет, что именно они умеют показать в ответ на прямой вопрос.
