Ваш AI-ассистент уже шпионит за вами?
Голосом просит «сгенерируй отчёт», а заодно — увозит вашу BI-аналитику на сервера в США.
AI-ассистенты вроде ChatGPT, Gemini и Copilot стремительно проникают в корпоративный стек. От автоматизации SLA-отчётов до анализа клиентского поведения в real time — это уже не пилоты, а продакшн.
Согласно Gartner, 54% компаний в 2025 году планируют использовать LLM-ассистентов в бэкофисе, финансах и ITSM. Один из крупнейших ритейлеров РФ уже интегрировал GPT-модель в цепочку MLOps для предиктивного ценообразования.
Но вместе с ростом эффективности — новые риски: данные из промышленных отчётов «залипаются» в память модели модели «дрейфуют», а контроль промптов — отсутствует инфраструктурная зависимость от вендора становится фактором SLA
Алексей Гриневич, CIO в производственном холдинге:
«Проблема даже не в том, что ассистент “слишком умный”. А в том, что никто из бизнеса не понимает, насколько он умный — и что он уже знает о вашей компании».
AI как инструмент — или как тень, которая растёт за спиной CIO? Где у вас на схеме контроля выход на LLM-запросы? И кто отвечает за тонкую настройку модели под NDA?
· 16.06.2025
Если Вы не знаете как работает ассистент, зачем других пугать? Вы обучается его на своих данных? Нет. Тогда госуслуги опаснее, там лежат все данные и это не государственная организация. Могу слить.
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
коммент удалён
· 16.06.2025
Если бы всё было так просто — бизнесу не пришлось бы строить политики LLM governance и держать отдельные команды по red teaming моделей.
Ассистент действительно не дообучается на данных пользователя напрямую. Но это не значит, что данные не могут попасть в тренинг или в кэш вендора, если отсутствует private endpoint, токенизация и настройка контекста.
AI-ассистент не «ворует» — но если его не ограничить, он унесёт больше, чем надо. И в этом главная угроза. Особенно — при передаче чувствительной BI, PII или промышленных отчётов.
Так что вопрос не в алармизме, а в зрелости архитектуры. И в понимании, что умный ассистент — это ещё и умная уязвимость.
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
ответ удалён