Вы даёте задачу: «Убери из отчёта колонку с конверсией, она неверна». Через день получаете отчёт без колонки с конверсией, но с новой колонкой — «прогнозная конверсия», которая ещё более неверна. Или: «Сделай кнопку зелёной». Получаете кнопку, которая зелёная, но теперь нажимается только после двойного клика. Это не саботаж. Это нормальная работа системы, обученной на частотных паттернах. Она не понимает отрицаний и исключений

Генератор картинок Гигачат получил пять раз подряд промпт: «телефонные трубки лежат на столах». Результат: ноль трубок на столах. Трубки в руках, трубки у ушей, трубки, парящие в воздухе — но не горизонтально и без человека. Почему? Модель обучали на миллионах изображений, где трубка в 99% случаев связана с рукой или ухом. «Лежать» — статистический выброс. У модели нет ментальной модели «лежания» и нет способности выполнить отрицательную инструкцию («не в руке»). Она просто предсказывает наиболее вероятное продолжение. Вероятность трубки на столе без человека — ничтожна. Модель даже не пытается её нарисовать. Это классическое переобучение на частотных признаках — то, что в машинном обучении называют «слепотой к редким событиям». Но проблема глубже: модель не понимает, что «лежат» — это команда исключить руки. Для неё все слова равнозначны и просто повышают вероятность соответствующих пикселей.

Ваши сотрудники, ваши алгоритмы, ваши BI-системы делают то же самое. Они обучены на исторических данных: «когда начальник говорит “упростить”, обычно это означало перерисовать интерфейс». Они не слышат «убрать функцию X». Они слышат «сделать что-то, что в прошлом часто сочеталось со словом “упростить”». И делают. Вы получаете не то, что просили, а то, что вероятнее всего. Разница между человеком и нейросетью в том, что человека можно переучить на контрпримерах. Но для этого нужно: а) осознать проблему, б) явно показать отрицательный пример, в) повторять до тех пор, пока паттерн «редкий случай» не станет частотным. Большинство руководителей не делают ни а), ни б), ни в). Они кричат «вы что, тупые?» — что бесполезно, потому что система действительно тупая в этом смысле. Тупость здесь — не оскорбление, а термин: отсутствие способности к инвариантности относительно контекста.

Следующий раз, когда получите не то, что подразумевали, спросите себя: а как часто в обучающей выборке этого сотрудника оно встречалось? Если редко — не ругайтесь. Добавьте в «датасет» контрпримеры. И запомните: пока вы не покажете системе тысячу трубок, лежащих на столах без рук, она будет рисовать трубку у уха. Даже если вы скажете «не надо у уха». Потому что отрицания не работают. Работает только частота.

P.S. Иллюстрация сгенерирована. Но не Гигачат, разумеется )