Подключила бесплатный платный AI-плагин. Самое интересное оказалось в логах

Недавно тестировала TinyFish, инструмент, с которым ChatGPT может самостоятельно работать с сайтами.

Мне его порекомендовали как сервис с "бесплатными возможностями". Решила проверить на небольшом личном проекте, посмотреть, как агент справляется с задачами в браузере.

У меня, кстати, есть привычка периодически заглядывать в логи AI-агентов. Какие инструменты вызывают, куда переходят, что делают между запросом и готовым результатом. Профдеформация)

И вот во время очередной проверки замечаю сообщения о расходовании денежного баланса.

Секундочку. Какого баланса? Я ведь ничего не пополняла 🙂

Спрашиваю ChatGPT. Он предполагает, что это стартовые бонусы, но сам путается в суммах. Обычно начисляют 8$, а у меня почему-то около 10$.

Внятно объяснить не может. Ещё и сообщает, что не должен был этого делать и больше не будет. Вот последнее меня даже больше заинтересовало. Ведь обещание агента ничего не меняет в настройках подключённого сервиса.

Начинаем расследование 🔎

Проверяю аккаунт, тарифы, историю расходов.

Оказалось, поиск и чтение страниц в TinyFish действительно бесплатны, а работа агента в браузере тарифицируется отдельно. На неё и уходили бонусные средства.

В итоге всё нормально. Реальных списаний с карты не было, автопополнение не настроено.

Но пока разбиралась, нашла ещё одну деталь в условиях сервиса. Даже когда деньги на балансе заканчиваются, уже запущенные операции могут увести счёт в минус. А если привязана карта, сервис может списать с неё задолженность.

И я задумалась, насколько по-другому такая ситуация выглядела бы в корпоративной среде.

Допустим, компания внедряет несколько AI-агентов. Они работают с CRM, обращаются к внешним API, собирают информацию, повторяют запросы при ошибках.

Всё работает, задачи выполняются. Но кто в этот момент контролирует стоимость операций? Какие ограничения действуют, если агент начинает бесконечно повторять один и тот же запрос? Кто увидит проблему раньше, чем она отразится в расходах?

Именно поэтому при внедрении AI я бы отдельно закладывала контроль на уровне самих систем: права доступа, бюджетные лимиты, журналирование действий и уведомления о нестандартной активности.

Промпт с просьбой согласовывать действия полезен. Но финансовые ограничения должны работать независимо от того, что агент ответил в чате.

Интересно, что буквально на прошлой неделе появились две публикации на похожую тему.

Anthropic рассказала, как внутри компании растёт объём работы AI-агентов. Сотрудники уже создают дополнительные инструменты, чтобы отслеживать их действия и проверять результаты.

А Google Cloud анонсировала расширение инструментов для управления корпоративными агентами: контроль доступов, действий и расходов. Часть возможностей пока только готовится к запуску.

Постепенно меняется и сама роль специалистов по внедрению AI.

Всё больше внимания приходится уделять тому, как агенты взаимодействуют с системами, кто управляет их полномочиями, как измеряется стоимость работы и что происходит при сбоях.

Это уже область agent governance (управления и контроля агентных систем), где технические решения напрямую связаны с бизнес-рисками.

А мой небольшой эксперимент стал хорошим напоминанием: успешно выполненная задача ещё не означает, что весь процесс был прозрачным и управляемым.

Именно это я бы проверяла, прежде чем переносить AI-решение из тестового проекта в реальный бизнес-процесс.

А вы заглядываете в логи своих AI-агентов или чаще оцениваете только конечный результат?