🤖 Я не раз видел, как ИИ-пилот умирает не из-за модели. Просто ему никто не доверял.
Поэтому свежие цифры «Инфосистемы Джет» меня не удивили. 46% крупных компаний закрывают пилоты без экономического эффекта. 44% отказываются от агентов из-за незрелых процессов, данных и интеграций. И только 8% готовы отдать ИИ решения со средним и высоким риском.
По-моему, это не провал технологии. Это здоровая реакция бизнеса на систему, которую нельзя проверить.
Простая арифметика: агент прав в 90% случаев на каждом шаге, шагов семь. 0,9⁷ ≈ 0,48. Верный итог реже, чем в половине случаев. На демо красиво, в проде страшно.
Что я проверяю до старта:
1. Метрика в рублях или часах и владелец из бизнеса, который за неё отвечает. Нет цифры «до», нет пилота.
2. Валидация на каждом шаге, guardrails и права. Агент действует с правами пользователя, критичное идёт через подтверждение.
3. Свой контур. Модель на серверах компании, данные не уходят наружу.
Доверие к агенту не появляется само. Его проектируют.
А что для вас страшнее: агент, который ошибается в каждом десятом шаге, или сотрудник, который ошибается так же часто, но его никто не измерял?
