Почему AI «галлюцинирует» и как заставить его думать логически?

Многие руководители и продакт-менеджеры опасаются внедрять AI в сложные процессы. Причина понятна: нейросети склонны «фантазировать» - уверенно предлагать решения, которые убедительно выглядят, но не подтверждаются при проверке на достоверность.

Но наука тут реально ушла вперед.

Недавно я разобрал свежий кейс моего приятеля Андрея Курьяна по разработке онтологических AI-агентов для метода VCM (Value-Conflict Mapping) Это очень показательная история о том, как именно можно решить проблему «галлюцинации» AI.

Если упростить , то такой AI работает не на вероятностях и «интуиции», а на строгой логике и формальных моделях.

В чем корень проблемы сложных продуктов?

Когда вы строите продукт или бизнес-процесс, требования всегда конфликтуют:

• Продажи хотят получить продукт как можно скорее и как можно дешево
• Производство - произвести продукта качественно и без рисков
• Финансы - сократить издержки
• Клиенты - получить лучший опыт от использования продукта

Обычно эти противоречия «разруливаются» на бесконечных совещаниях. И почти всегда через компромисс.

А компромисс - это скрытая форма потери эффективности.

Что меняется с онтологическим AI-агентом (VCM)? AI-агент работает поверх онтологии + графа знаний и автоматизирует метод VCM.

Как он мыслит:

1. Слой ценностей AI формально описывает, чего именно хотят разные стейкхолдеры - не в виде текста, а в виде структурированных сущностей (ценность, приоритет, ограничение).

2. Слой системы Он видит продукт или процесс как набор свойств и параметров: скорость, стоимость, надежность, прозрачность, масштабируемость и т.д.

3. Поиск конфликтов Дальше начинается самое интересное: AI математически вычисляет противоречия, где улучшение одного свойства неизбежно ухудшает другое.

Не на уровне «кажется», не «по ощущениям», а по формальной логике: > если ↑А ⇒ ↓B -значит, здесь структурный конфликт.

И вот здесь почти полностью пропадают галлюцинации. Потому что AI не может придумать то, чего нет в онтологии.

Почему это критично важно для продакт-менеджера? Онтологический AI:

• не заменяет мышление продакта,
• но безжалостно вскрывает слабые места в логике требований,
• показывает, где команда живет в иллюзии «и быстро, и дешево, и качественно».

Какие задачи это решает для продакт-менеджера? Подход на стыке ТРИЗ + VCM + онтологического AI позволяет:

• выявлять "скрытые противоречия" в требованиях еще до разработки
• перестать «оптимизировать всё сразу» и видеть реальные ситуации, когда улучшая одно, ты неизбежно ухудшаешь другое
• объяснять стейкхолдерам почему требования конфликтуют, на языке логики, а не эмоций
• снижать риск фейлов, которые обычно проявляются только на этапе масштабирования
• использовать AI не как «генератор идей», а как "инструмент инженерного мышления"

Главный вывод Проблема AI-галлюцинаций - не в самих моделях. Она в том, что мы пытаемся решать инженерные и управленческие задачи статистическими инструментами.

Онтологии + графы знаний + формальная логика — это следующий уровень зрелости использования AI в бизнесе.

И, судя по таким кейсам, мы только в начале этого пути.

Если интересно развить эту тему, ставьте 👍