Важно понимать когнитивный каркас современных моделей и принципиальные ограничения их рассуждений.

1. Субъективное и истинное целеполагание У модели нет собственных потребностей, мотивов, намерений или воли. Она не формулирует цели самостоятельно в человеческом смысле, а оптимизирует вычислительную задачу в рамках заданных условий и контекста. Спросите: «Зачем это нужно и какую цель мы на самом деле преследуем?»

2. Каузальное (причинно-следственное) мышление LLM прежде всего работает с вероятностными зависимостями и статистическими закономерностями. Но причинные модели  и причинно-следственных закономерности за пределами обученного контекста остаются сложными задачами. Спросите: «Что произошло бы, если бы ЭТО не произошло?»

3. Воплощённое мышление и здравый смысл У языковой модели нет собственного тела и непосредственного сенсорного опыта взаимодействия с физическим миром. Знания представляет собой выученную модель закономерностей, отражённых в данных, а не результат непосредственного физического опыта. Спросите: «Что произойдёт в реальном мире, если выполнить это действие?»

4. Эпистемическое (семантическое) понимание Модель способна убедительно симулировать понимание, эмпатию, аргументацию и оценку контекста, однако это не следует отождествлять с человеческим субъективным опытом, собственными ценностями или пониманием истинности утверждений. Спросите: «На чём основан этот вывод и что подтверждает его истинность?»

8 уровней рассуждения AI

Современные LLM и агентные системы способны комбинировать различные паттерны организации рассуждения:

A. Система 2 — медленное мышление Дополнительное вычисление перед выдачей результата: модель получает возможность уделить больше ресурсов анализу задачи, проверке и поиску решения.

B. Цепочка мыслей — Chain-of-Thought Последовательная декомпозиция задачи на промежуточные шаги и получение результата через цепочку рассуждений.

C. Дерево мыслей — Tree of Thoughts Параллельное исследование нескольких гипотез или вариантов с возможностью оценки и отката неудачных ветвей.

D. Граф мыслей — Graph of Thoughts Нелинейная организация рассуждения, в которой отдельные идеи и промежуточные результаты могут связываться, пересекаться и использоваться повторно.

E. Абдуктивное рассуждение Поиск наиболее правдоподобного объяснения при неполных или неоднозначных исходных данных.

F. Декомпозиция Разбиение сложной задачи на более простые подзадачи, которые могут решаться независимо или последовательно.

G. Саморефлексия и критика Проверка промежуточного или финального результата, поиск ошибок, противоречий и слабых мест с последующей корректировкой.

H. Аналогия в контексте Перенос структуры решения из уже известных примеров на новую задачу на основе информации, присутствующей в контекстном окне.

********* Сила современной ИИ-системы —  в архитектуре, которая организует и контролирует его рассуждения.