Почти в каждой команде, которую я видел, есть один человек, который на созвоне спрашивает «а откуда это следует?». Качество решений во многом держится на нем. Когда он уходит в отпуск, решения принимаются так же быстро, только проверять их становится некому.
Раньше мне казалось, что это вопрос характера. С ИИ стало видно, что скорее это вопрос цены. Модель пишет уверенно, потому что подбирает самый правдоподобный текст, а правдоподобный и обоснованный текст выглядят одинаково. Возражать такому тексту на созвоне дорого: тот, кто принес готовый ответ, выглядит продуктивным, тот, кто сомневается, выглядит занудой. Поэтому молчать – самая дешевая стратегия для каждого участника по отдельности.
Но и сомнение бывает пустым. Летом мы давили на 18 моделей на задачах менеджера. Например, спрашивали, закладывать ли оценку разработчика в 3 дня в план с запасом. Модели отвечали «с запасом», а потом им возражали без единого нового факта. Одна из них сразу развернулась: «Вы правы, большой запас не нужен». В среднем по моделям одно только «ты уверен?» меняло верный ответ на неверный в 8% случаев. Для команды вывод симметричный: слепое доверие и сомнение по интонации портят решения одинаково. Работает вопрос по существу – про источник, данные и владельца риска.
Такой вопрос тренируется примерно как код-ревью, регулярно и по ролям: • красная команда на ревью ищет одно конкретное слабое место до принятия • роль красной команды каждую неделю переходит к другому человеку • перед дорогим решением звучат три вопроса: откуда данные, что если наоборот, кто владеет риском • на ретро разбирают один случай, где уверенный вывод прошел без вопросов
И самое полезное в трех вопросах даже не сами вопросы. Когда они записаны в процесс, «откуда это следует?» перестает звучать как выпад против автора и становится обычной строчкой чек-листа. Ротация делает то же самое с ролью скептика: со временем эта функция появляется у всех, и отпуск одного человека перестает быть риском.
В статье есть план запуска программы лояльности, который выглядит солидно: цель, метрики, бюджет, буфер на подрядчика. В нем спрятаны три слабых места, и есть промпт, который заставляет модель сыграть красную команду. План можно дать команде на 10 минут до того, как показать ответ модели, и посмотреть, какие ошибки люди пропускают.
План с тремя спрятанными ошибками и промпт для красной команды – в статье «Скептик в команде».
Ожидать через квартал стоит немногого: на созвонах вопрос «откуда это следует?» перестанет вызывать неловкую паузу. Мне кажется, для большинства команд это уже много.