Система ИИ-агентов не работает без хозяина
В прошлый раз я писал о переезде агентов на другую платформу. Многие спрашивали: а после переезда можно уже отпустить и не смотреть? Нет. И это, пожалуй, главное, что я понял за последние месяцы.
На YouTube продают курсы: «настроил один раз, и агенты работают сами, а вы отдыхаете». Звучит красиво. Только в жизни так не бывает.
Система агентов похожа на хороший отдел. Люди в нём толковые, но если руководитель пропал на месяц, всё постепенно расползается. С агентами то же самое, только быстрее и тише.
Почему нужен человек: 1. Бизнес меняется каждую неделю. Новые цены, новые правила, новые люди. Агент сам об этом не узнает. 2. Модели обновляются. Вчера инструкция работала, сегодня агент понимает её чуть иначе. 3. Ошибки бывают тихими. Агент не всегда скажет, что что-то пошло не так, это надо уметь заметить. 4. Кто-то должен решать. Агент предлагает, а отвечает за результат человек.
И лучше всего, если присматривает тот, кто систему выстроил. Он знает, почему правило написано именно так, где тонкие места и что сломается, если поменять одну деталь. Новому человеку на это нужны недели.
Хорошая новость: присмотр не значит сидеть рядом весь день. Это короткие проверки, разбор ошибок и решения в нужный момент. Агенты делают работу, человек держит руль.
А у вас кто отвечает за ИИ-инструменты в компании: отдельный человек или «как-нибудь само»?