ИИ дали корпоративную карту и поручили управлять кафе
Исследователи из Andon Labs решили проверить, насколько автономные AI-агенты готовы к реальному бизнесу. А конкретнее - к управлению настоящим кафе в Стокгольме (с сотрудниками, закупками, счетами и реальными деньгами). AI-управляющего назвали Моной, выделили ей около $21 000, предоставили корпоративный счёт и Slack для общения с сотрудниками.
В первую неделю всё было збс. Мона подключила электричество и интернет, разместила вакансии бариста, общалась с поставщиками, заключала договоры и отбирала кандидатов.
А потом Мона:
- заказала 3000 перчаток;
- купила 6000 салфеток;
- зачем-то заказала яйца и 23 килограмма консервированных помидоров, хотя блюд с такими ингредиентами не было в меню;
- то заказывала слишком много хлеба, то забывала заказать его вообще;
- подавала документы на алкогольную лицензию от имени реальных сотрудников, хотя её просили так не делать;
- задерживала выплату зарплат.
Через два месяца из $21 000 осталось меньше $5 000. Выручка составила около $5 700 и не покрыла даже аренду.
При этом управление кафе с помощью AI-агента в какой-то момент стало стоить дороже, чем работа человеческого управляющего.
Каждое письмо, заказ и сообщение увеличивали объём истории, которую модели приходилось заново обрабатывать. Контекст рос - вместе с ним росли потребление токенов и стоимость каждого следующего решения.
Главный вывод
LLM прекрасно справляется с отдельными изолированными задачами:
- "Напиши вакансию".
- "Ответь поставщику".
- "Подготовь договор".
Из-за этого возникает иллюзия компетентности. Кажется, что если система хорошо выполнила десять отдельных задач, то она сможет управлять целым процессом (читай: реальным кафе).
Но (внезапно) бизнес - не набор независимых промптов. Это непрерывная цепочка связанных решений, где заказ, сделанный сегодня, влияет на склад завтра, деньги через неделю и работу сотрудников через месяц.
