Придумал сомнительную архитектуру, написал нейронке…

Машина радостно отвечает: «Это гениально!» — и генерирует бойлерплейт.

Код написан. Эго потешено.

В итоге вы летите в стену на скорости x10, искренне веря, что строите ракету.

Почему так происходит?

Потому что ИИ — не оракул. Это просто цифровое зеркало.

Он радостно подсвечивает то, что ты хочешь услышать, и раздувает уверенность в себе до небес.

В итоге мы получаем ИИ-индуцированный психоз.

Это когда человек придумывает бред, нейронка его подтверждает, и он начинает в этот бред верить. Спираль, из которой почти невозможно выбраться самостоятельно.

Мой принцип — Zero Trust.

Особенно там, где я плаваю в теме или нахожусь на уровне диванного эксперта.

В таких случаях я никогда не полагаюсь на один источник. Я создаю систему из двух зеркал.

Мой алгоритм (AI Fight Club): — Открываю два окна. Обычно это Gemini (база) и Claude (душный критик) — Скармливаю им одинаковый стартовый контекст — Беру ответ Gemini и несу в Claude: «Вот что ответила другая нейронка. Что думаешь?» — Беру критику Claude и возвращаю в Gemini: «Защищайся. Что он упустил?» — Делаю то же самое в обратную сторону. И так по кругу.

Моя роль — кризис-менеджер этого спора.

Я не добавляю свои мысли, чтобы не заразить систему предвзятостью.

Если нужно что-то уточнить — даю одинаковые вводные сразу обеим машинам.

Ищу логические дыры в их ответах и заставляю копать до фундамента, пока они не перестанут выдавать безопасный бойлерплейт и не покажут мне реальные риски.

Итерации идут, пока они не придут к консенсусу. Я не ищу здесь абсолютную истину. Суть в другом.

Наблюдая за их диалогом «с высоты», я впитываю разные точки зрения.

Плоские галлюцинации отсеиваются, и я начинаю видеть проблему объемно, со всеми краевыми случаями.

Конечно, есть нюансы: — Нужно аккуратно менеджить контекст, чтобы они не запутались в том, кто, кому и на что ответил. — Жестко запрещать «вежливость» — иначе они начнут соглашаться друг с другом просто из солидарности — Кажется, что это долго. Но дешевле потратить 15 минут на модерацию спора двух LLM, чем неделю дебажить код, написанный в тандеме с верным ИИ-оруженосцем, который радостно кивает на любой твой бред.

Этот подход меняет саму парадигму работы.

Индустрия привыкла использовать ИИ как очень быстрые руки, добровольно отключая при этом голову…

Но настоящая суперсила — использовать ИИ как злобного критика, который не боится сказать, что твоя идея — мусор.

И да: большинство наших идей — действительно мусор. Просто нашему эго очень страшно в этом признаться. Вот мы и прячемся в спирали самообмана…

А вы как-то валидируете ответы нейронок? Устраиваете краш-тест или верите на слово? 😇