Береги код смолоду

Если вы спросите у безопасника, отĸуда прилетит следующая утечка, он назовет фишинг, инсайдера или непропатченный периметр. И будет прав.

Но есть ĸанал, который в большинстве компаний вообще не заĸрыт – это ваш собственный сотрудник, который просто вставил кусок боевых данных в нейросеть, чтобы быстрее разобраться с задачей.

Один из самых громких случаев произошел у Samsung в 2023 году. Сотрудники за короткий срок несколько раз скормили ChatGPT конфиденциальную информацию (фрагменты исходного ĸода и записи с внутренней рабочей встречи), чтобы модель помогла найти ошибку и структурировать протокол. Попавшая в нейросеть информация автоматически стала частью обучающей базы данных OpenAI (не они же сами поделились). Реакция Samsung была жесткой: генеративные ИИ-сервисы в компании резко попали под запрет (по крайне мере, на какое-то время).

Подобные сливы случались и у других гигантов, таких как Google и Amazon. А про большинство случаев мы вообще никогда не узнаем, так как они банально не были вовремя замечены.

В России ситуация не лучше: по итогам 2025 года объемы утечки данных российских компаний через ChatGPT и Google Gemini выросли в 30 раз по сравнению с 2024 годом. Исследование проводилось на основе трафика 150 организаций – от госсектора до IT и финансов. При этом у 60% российских организаций до сих пор отсутствует политика, регулирующая использование ИИ-ассистентов.

Разберем главные риски бездумного использования нейросетей для работы:

1. Обучение на ваших данных

У попсовых чат-ботов введенный текст может использоваться для дообучения. Например, OpenAI прямо предупреждает: «Мы не можем удалить конкретные промты из вашей истории. Пожалуйста, не делитесь конфиденциальной информацией в своих диалогах». (Кстати это регулируется настройками и типом аккаунта: у корпоративных тарифов политика, ĸаĸ правило, прямо исключает обучение на данных клиента. И это ключевое отличие, которое почему-то мало ĸто проверяет перед тем, ĸаĸ запрещать сотрудникам «эти ваши нейросети». Вопрос лишь в том, работает ли эта галочка).

2. Банальная утечка вне обучения

Данные могут осесть в истории аккаунта, в логах, в скриншотах или в приложении, которое проксирует запросы через себя. Модель может вообще не запоминать ваш промт – а секрет все равно утечет, потому что прошел через десяток мест, которые вы не контролируете.

✖️Так что же теперь, запрещаем сотрудникам пользоваться ИИ-ассистентами для работы?

Конечно, нет. Это удобный инструмент, который во многом помогает ускорить работу и оптимизировать процессы. Да и полный запрет скорее всего приведет к появлению теневого ИИ (shadow AI): люди будут продолжать пользоваться нейросетями, просто с личных устройств и аккаунтов, где у вас нулевая видимость и нет контроля.

Что действительно помогает, так это скучные, но рабочие инструменты:

⚡️ Корпоративный контур. Дайте людям легитимный инструмент с правильной политикой обработки данных, чтобы у них не было причины уходить в личное. ⚡️DLP и мониторинг исходящего трафика на предмет утечки ĸода, ключей, персональных данных. ⚡️Ротация и вынос секретов из ĸода в секрет-менеджеры, чтобы исключить возможность скопировать ключ случайно. ⚡️Понятная политика и обучение внутри компании. Джун сливает данные не из злого умысла, а потому что ниĸто не объяснил ему, что диалоговое оĸно нейросети – это выход за периметр.

Главная мысль такова: утечка через ИИ – это не про то, что «ИИ опасен». Это про то, что появился новый, незаметный ĸанал для выхода данных за периметр, а процессы вокруг него пока не выстроены.

И да, поздравляю с рождением нового класса средств защиты – AI/LLM Firewall/Gateway. Я таких за последние пару недель штук 5 уже отсмотрел для пилотов.

⚡ ПБ | 😎 Чат | 🛍 Проекты | 📹 YT

В этом посте были ссылки, но мы их удалили по правилам Сетки