Финансовый аналитик получает от AI квартальный отчёт на 15 страниц. Текст уверенный, цифры правдоподобные, выводы разумные. Аналитик вносит пару правок и отправляет руководству. Через неделю выясняется: три показателя неверны, одна ссылка на исследование не существует, а главный вывод – корреляция, поданная как причинно-следственная связь.

Это не единичный сбой. По данным Vectara Hallucination Leaderboard, даже лучшие модели галлюцинируют в 2–5% случаев при работе с предоставленным источником. В свободной генерации – значительно выше. Это свойство архитектуры: модель выбирает статистически вероятное продолжение, а не логически верное.

Но галлюцинации – только верхушка. Есть два разных класса ошибок, и путать их дорого. Intrinsic – модель исказила ваши данные (написала «12 человек в команде» вместо 8). Проверка: сверить с источником, 30 секунд. Extrinsic – модель выдумала факт целиком («по данным McKinsey, 73% проектов...» – такого отчёта не существует). Проверка: найти первоисточник, 5–10 минут. Разные ошибки – разная стратегия, разные затраты времени.

Исследование Anthropic на 1,5 млн диалогов с Claude показало ещё один паттерн: пользователи просят AI написать готовый текст – сообщение, план, скрипт – и отправляют без правок. Около 50 случаев только в одном кластере данных, когда люди возвращались с сожалением: «это было не моё», «я должен был послушать свою интуицию». Проблема не в том, что модель ошиблась – текст мог быть верным. Проблема в подмене: AI заменил суждение, а не усилил его.

Мы разбираем это в модуле «Фундамент» – от систематики ошибок до трёхуровневой верификации и границ, где AI вообще не стоит включать. Не «будьте осторожнее», а конкретная система: что проверять за 30 секунд, что за 5 минут, а что не делегировать вовсе.

Модуль Фундамент – базовый для всех специализаций. Навыки, которые нужны в ежедневной работе