Сергей Соболев пишет:

5 мифов об агентах, которые убивают проекты

1️⃣ Миф: Агенты полностью автономны

Реальность: полная автономность — это путь к катастрофе.

Когда агент может сам отправлять запросы в другие системы и обновлять данные, одна выдумка = сбой в работе. Salesforce CIO прямо говорит: «Мы не будем видеть полностью автономные системы в организациях».

Успешные внедрения — это гибрид: агент + человеческий контроль на критических точках.

2️⃣ Миф: LLM в агентах — это логика и мышление

Реальность: это машины предсказания текста.

Агент может выглядеть логичным, но находить ложные закономерности. Рассуждение «звучит правильно», но полностью вымышлено. Поэтому агенты эффективны для предсказуемых рабочих процессов, а не для задач, где нужно оригинальное рассуждение.

3️⃣ Миф: Human-in-the-Loop гарантирует успех

Реальность: человек в паре к агенту часто становится узким местом.

Когда агент требует утверждения на каждом шаге — экономия времени падает на 60-80%. А ещё люди начинают слепо доверять и пропускать ошибки. Правильный подход — человеческий контроль только на высокорисковых операциях, и контроль метриками на всех остальных.

4️⃣ Миф: ИИ-агенты — это путь к AGI (общему искуственному интеллекту)

Реальность: нет.

Агент — это инструмент для одного типа задач. AGI — универсальная система для любых проблем. Текущие агенты работают на заранее определённых инструментах и статических инструкциях. До AGI как до Луны пешком.

5️⃣ Миф: Агенты универсальны

Самое опасное заблуждение.

«Давайте развернём агента для оптимизации всех бизнес-процессов» = крах.

Агенты работают только когда есть: