В 2025 году юристы истцов против Walmart подали ходатайство с восемью несуществующими судебными делами. Один адвокат доверился ИИ, тот выдумал ссылки, а остальная команда пропустила документ дальше не глядя – каждый считал, что проверил кто-то другой.
Галлюцинация модели тут не самое интересное. Интереснее, что бумага прошла через нескольких квалифицированных юристов, и ни один не притормозил. Проверка формально была, фактически её не случилось ни на одном шаге.
За этим стоит механизм, который Work AI Index 2026 – опрос шести тысяч офисных работников – называет парадоксом суждения. Раньше плохая работа и выглядела плохо: кривой черновик, опечатка в первом абзаце заставляли читателя споткнуться и насторожиться. ИИ стёр эти сигналы. Всё выходит одинаково гладким, и внешний вид документа больше ничего не говорит о его содержании.
Отсюда самая неудобная цифра отчёта: чем больше рабочего дня занимает ИИ, тем чаще человек отдаёт дальше результат, который сам не смог бы объяснить. Лёгкое использование – 24%, половина дня и больше – 54%. И теряет проверку первым руководитель: сверху требуют скорости, снизу подают гладкий результат на приёмку, она и вылетает из бутерброда первой.
Хорошая новость в том, что под нагрузкой ломается приёмка, квалификация сотрудников тут ни при чём – а нагрузкой и порядком приёмки руководитель распоряжается.
Самый дешёвый работающий тест против этого – попросить объяснить результат своими словами, без документа перед глазами. Он бьёт прямо в ту же цифру: 41% признают, что отдавали дальше то, что объяснить бы не смогли. Вопрос «почему здесь именно так» ловит непроверенное лучше любого регламента.
И одно наблюдение, которое разворачивает привычную рамку «учить команду ИИ». Из шести измеренных навыков сильная и слабая группы расходятся сильнее всего в одном – в умении понимать, где ИИ не нужен: 89% против 68%. Сильные пользователи работают с инструментом много и при этом крепче в каждом навыке. Отличает их граница, которую они умеют назвать вслух. Появляется она тогда, когда человек на своих задачах увидел, где модель уверенно выдаёт неверное, – ещё один освоенный инструмент её не создаёт.
Разбор с данными, примерами и приёмами проверки под нагрузкой
