Начало здесь.

Уровень первый. Не ясно, за что прилетит

Самый внешний слой — правила. Точнее, их отсутствие. Когда правило чёткое, у человека два варианта: соблюдать или осознанно нарушать. Оба честные, оба он про себя понимает. А когда правила нет, или оно написано так, что под него подходит что угодно, появляется третий вариант — пользоваться и не отсвечивать. Не из вредности. Просто непонятно, за что прилетит, и в такой неопределённости молчание дешевле разговора.

И сразу скажу, кого я тут не виню. Безопасников. Их беспокойство я разделяю полностью: код и данные правда уезжают на чужие серверы, лицензионные соглашения правда читаются тяжело, и никто пока не может внятно пообещать, что наша переписка с моделью не всплывёт где-нибудь потом. При этом опереться им не на что — практики нет, прецедентов нет, а отвечать за утечку им. Написать в такой ситуации хороший документ объективно тяжело.

Тут вторая половина той же проблемы, и про неё говорят реже. Инженерной культуры вокруг ИИ пока просто не сложилось.

Смотрите: код-стайл, ревью, ветвление, тестовая пирамида — всё это складывалось годами, спорами и граблями, и в итоге превратилось в общее «так принято». Новый человек приходит и за неделю считывает, как здесь принято. С ИИ никакого «так принято» ещё нет. Каждый делает как сумел: один гоняет всё через корпоративный инстанс и руками вычищает секреты, второй кидает кусок прода в веб-чат просто потому, что не задумался, третий поставил в IDE плагин, который тянет весь репозиторий целиком, и совершенно об этом не знает.

Это не про невнимательных людей. Это про то, что ориентиров нет, а работу надо делать сегодня.

Вот отсюда, по-моему, и складывается win-win. Инженеру нужно понимать, где безопасно, чтобы перестать бояться сказать вслух. Безопаснику нужно видеть настоящую картину, чтобы закрывать реальные дыры, а не воображаемые. Мешает обоим одно и то же — пустота на месте правил. Пока её нет, использование ИИ не снижается, снижается его наблюдаемость: компания получает худший из миров, где риски остались, а видимости нет. Хорошая новость: этот уровень лечится, причём дешевле остальных двух. Плохая новость дальше.

Уровень второй. Защита нормы выработки

Этот слой мне интереснее всех остальных.

Представьте: вы честно сказали, что CRUD теперь пишется за пять минут вместо двух часов. Что произойдёт? Планка поднимется. Не завтра, так через спринт — и уже навсегда. Обратно её никто не опустит, потому что план всегда считается от факта.

Я думал, что это новая проблема. Оказалось, ей под сто лет.

1931 год, завод Western Electric под Чикаго, цех под названием Bank Wiring Observation Room. Четырнадцать рабочих паяют контакты, оплата сдельная: сделал больше — получил больше. Казалось бы, вот прямой денежный стимул, работай сколько влезет. А выработка стоит на месте. Потому что бригада между собой договорилась держать свою планку, примерно шесть тысяч контактов в день, и тех, кто её превышал, тихо ставили на место. Для таких у них было отдельное слово — rate busters, «ломающие норму». Логика простая: покажем, что можем больше — нам поднимут план, а платить будут так же. Механизм с тех пор не поменялся ни на грамм, изменился только предмет — не количество спаянных контактов, а количество закрытых тикетов. И вот здесь я расхожусь с большинством текстов про shadow AI. Их общий мотив — это иррациональный страх, который лечится культурой и психологической безопасностью. Только в том цеху никто ничего не боялся. Там сидели люди, которые прикинули последствия своей честности и приняли решение. Судя по всему, верное.

Продолжение дальше Часть 3.