Shadow AI — почему инженеры скрывают, что пользуются ИИ

Доброго дня, инженеры и те, кто инженеров ведёт.

Слушал подкаст Code of Leadership, выпуск про AI-assisted engineering. Полтора часа про то, как правильно встроить ИИ в разработку: копайлоты, MCP, метрики, место ИИ в SDLC. Разговор хороший, по делу. И где-то в середине проскочил термин, за который я зацепился и с которым хожу уже неделю — shadow AI. Проскочил сноской, в ряду прочих ИБ-рисков, между утечками и комплаенсом. А я на этой сноске завис. Потому что мне кажется, что она интереснее основного разговора.

Что это вообще такое

Shadow AI — это когда человек пользуется нейронками в работе, а работодатель об этом не знает. Название собрано по образцу shadow IT — так лет пятнадцать назад назвали историю, когда сотрудники ставили себе нужные инструменты в обход ИТ-отдела, потому что через отдел было дольше, чем через себя. Дальше в ИБ-жанре всё предсказуемо: данные уходят в публичные сервисы, подрядчика не аудировали, надо закрывать. И это правда, с этим я не спорю. Только люди прячут не данные. Они прячут сам факт, что пользуются. Мою задачу нейронка решила за пятнадцать минут — и я об этом молчу, хотя в задаче не было ни строчки секретного.

Одну цифру всё-таки приведу, дальше их не будет. В опросе WalkMe почти половина работников — 48,8% — призналась, что скрывает своё использование ИИ, чтобы не нарваться на осуждение. Половина. Это уже не отдельные скрытные ребята, это норма поведения.

Дальше я разложу её на три уровня. Они складываются: снять верхний не значит снять остальные.

Дисклеймер

— Пишу как лид, который нанимает, оценивает и раздаёт задачи, и одновременно как инженер, который сам сидит в этой же ловушке. Не сверху вниз. — Показать, что сокрытие рационально — не то же самое, что порекомендовать его. Рационально для одного, разрушительно в сумме. — На главный вопрос текста у меня ответа нет. Если бы был, статья была бы вдвое короче. — К безопасникам претензий у меня нет вообще. Их беспокойство я разделяю, и мне кажется, что здесь как раз возможен нормальный win-win. Про него будет ниже.

Продолжение здесь.