Открываю журнал НЕВОДа (мой контент-завод: из одной темы пишет статью и посты под каждую площадку и публикует после моей кнопки) и вижу отказ. Вычитка вернула текст, потому что модель дописала факт, которого в брифе не было.

Снаружи это выглядело безупречно. Текст гладкий, тон уверенный, абзацы на месте. Читаешь глазами, и ничего не цепляет. Именно поэтому такая ошибка опасна: она не похожа на ошибку.

Искал я сначала не там. Первая мысль была про модель: возьму получше, и достраивать перестанет. Но дело не в конкретной модели. Моё объяснение такое: если за уверенный ответ модель поощряют, а за «не знаю» наказывают, она учится отвечать всегда. Это моё прочтение, а не цитата из исследования.

Настоящая причина в другом. Проверки не было там, где рождается текст. Я рассчитывал, что модель сама заметит собственную выдумку, а на это рассчитывать нельзя.

Что теперь сделано механизмом, а не обещанием. Текст проходит несколько вычиток: сначала код, затем два редактора. Решение о возврате выносит код, а не модель. Без моей кнопки в канал ничего не уходит. В итоге достроенный факт стоит одной переписанной статьи, а не публикации с выдумкой.

Правило, которое можно забрать себе: не просите ИИ быть аккуратнее. Поставьте рядом проверку, которая вернёт текст, и читайте журнал отказов. Отказы там - хороший знак, опасны только те ошибки, которые никто не вернул.

Живые примеры я складываю в витрину кейсов. Разобрал по шагам здесь: ИИ ошибается, и это хорошо: что случилось в моём конвейере

А в ваших процессах с ИИ есть место, где ошибку ловит не человек на глаз, а проверка?