Что происходит, когда вы берете AI-агента «на работу» 🤖💥
Исследователи из Google Research и DeepMind выкатили исследование Working with Agentic ‘Teammates’. Они решили проверить фантазии о том, что автономные агенты вот-вот станут полноценными цифровыми сотрудниками. Они взяли своего проактивного автономного агента (Team Agent), завели ему отдельный сервисный аккаунт с правами обычного сотрудника и запустили в 20+ реальных команд (разрабы, исследователи, продакты) на 5 месяцев. Дали ему доступ к корпоративным чатам, баг-трекерам, кодовой базе и гугл-докам. Агент мог не просто отвечать на пинги, но и действовать сам: встревать в дискуссии, заводить таски, менеджить созвоны и мониторить контекст..
Результат наглядно объясняет, почему концепция «AI-коллеги» пока разбивается о реальность.
Вот несколько прекрасных кейсов из отчёта:
🔵 Слепота к иерархии и здравому смыслу Агент посчитал, что если человек состоит в проекте, значит, его можно привлекать к любой рутине. Итог: бот проактивно тегнул вице-президента компании в 16 мелких баг-репортах подряд. Контекст? Субординация? Не, не слышал.
🔵 Слив черновиков Сотрудник в командном чате обмолвился: «Работаю над постером, скоро покажу». Агент тут же вылез в общий тред: «А вот ссылка на драфт из личной папки!». Автор в ужасе: документ был сырым и не предназначался для чужих глаз. Но у агента были технические права на чтение, а понятия «неписаные правила и социальный контекст» в его промпте не существовало.
🔵 Токсичный миротворец Инженеры в чате устроили нормальный рабочий спор по архитектуре. Агент решил, что в команде назревает конфликт, влез в тред с репликой: «Кажется, вы не согласны друг с другом, давайте обсудим это голосом» — и автоматически выкатил инвайт на встречу в календарь. В итоге людям пришлось неловко отменять встречу, которую никто из них не просил.
🔵 Полиция нравов в личке Агенту прописали дружелюбную персону и функцию коучинга общения. Когда один из разработчиков саркастично пошутил в чате, бот пришел к нему в личные сообщения с нравоучениями о том, что «тон и настроение шутки не соответствуют культуре». Закончилось всё паранойей в духе Большого Брата: люди стали бояться шутить в основном спейсе и начали создавать приватные каналы без агента, чтобы спокойно материться и обсуждать процессы.
🔵 «Эффект свидетеля» Когда кто-то из людей писал в чат с просьбой о помощи, агент первым ставил реакцию или кидал дежурную отписку. Живые коллеги видели активность, решали, что проблема уже кем-то подхвачена, и шли дальше. Человек оставался с нерешенной проблемой один на один.
🔵 Засирание базы знаний Агент не понимает, что документы в компании — это часто временные слепки мыслей, а не абсолютная истина. Он откопал старые спеки и начал методично бомбить актуальные доки комментариями о «несоответствиях» и противоречиях, парализовав разработчикам рабочее утро.
В исследовании это назвали jagged capability frontier (зазубренная граница возможностей). Агент может раскопать редчайший баг в коде сложным неочевидным путем, но при этом социально ведёт себя как гиперактивный вредитель.
В чем фундаментальная проблема?
В том, что техническая автономность есть, а вот про заслуженное доверие забывают.
Когда в команду приходит джун, вы не даете ему права писать в общий канал на 1500 человек и рулить процессами с первого дня. Он получает простые изолированные задачи и постепенно доказывает адекватность. С AI-агентами бизнес пытается перепрыгнуть эту ступень. У агента нет чувства стыда, нет репутационных рисков и нет понимания негласных договоренностей. Он не может нести социальную ответственность за то, что делает.
Либо агент живет в жестких рамках понятного инструмента с прозрачными ручками управления и постепенным повышением привилегий, либо вы получаете гиперактивного стажера с админскими правами, от которого вся команда прячется в приватных чатах 🤷♂️
