Огромная часть сотрудников используют несанкционированных ИИ-ботов. И огромная часть пользователей копируют конфиденциальные данные прямо в промпты. Наверное вы тоже так делали Существует огромное количество бесплатных ИИ чат ботов, которые не требуют регистраций, но и не дают гарантии, что не будут сохранять данные, которые вы вводите. Это позволит составить примерную картину о том, кто им пользуется. Звучит не так уж страшно, но это может работать как стиллер медленного действия. В отличии от классического стиллера, данные передаёт сам клиент. — историю личных бесед, например для аналитики — код, где могут быть чувствительные данные — где вы находитесь или живёте и извлечь многое другое, просто по вашему тексту.

Тоже можно сказать и про официальных ИИ-ботов, которые могут сработаться в интересах государства или в процессе расследований. Не стоит забывать про клиенты, которые работают вполне легально, но могут оказаться под атакой. Следовательно — утечка. Корпоративные — более востребованы для конкурентов или хакерам, которые планируют атаку.

Какие атаки в будущем могут появиться? Одна из вероятных атак: Новый вид фишинга. Суть в предложении компаниям, перейти на их ИИ чат бот, под предлогом, что используют самые передовые модели, а под капотом оказаться что то другое, который косит под крутого чат бота. Это так же может вызвать самовнушение у клиентов. Итог: прямой слив данных и возможность атакующих ставить закладки(например бэкдоры, генерировать вредоносные файлы и т.д)

В будущем вероятно, что утечки будут выглядеть так. Гораздо безопаснее будет развернуть ИИ на своем железе. Нет интернета - нет утечки. Всё же если нет такой возможности, используйте только с официальных приложений/сайтов и даже им, не отправляйте информацию, которая может оказаться ключем не только к вам, но и компаниям.