ГигаАгент: опасный движок в бронированном автомобиле?

Пока Яндекс только анонсировал выход своих автономных агентов на MCP-протоколе в конце сентября – Сбер запустил ГигаАгента. Это не «алый океан», конечно, но конкуренция на ИИ-рынке тоже нешуточная – спешат гиганты. Итак, знакомимся: ГигаАгент — первый в России автономный универсальный ИИ-агент. Что заявляет Сбер о своем инновационном решении? ГигаАгент: Поддерживает непрерывный цикл выполнения задач. Хранит память между сессиями и перезапусками. Понимает задачу, планирует решение, автономно выполняет действия и сам создаёт навыки. Подключает новые инструменты. Учится на ошибках. Анализирует большие объёмы разрозненных данных. Создаёт рабочие прототипы. Ведёт бизнес-процессы. Воркфлоу простой и понятный: Вы ставите задачу. Описываете нужный результат обычным языком. Агент подбирает навыки. Планирует задачу, подключает готовые навыки или создаёт новые. Интегрируется с инструментами. Выполняет работу в фоне. Продолжает между сессиями — вам не нужно оставаться на связи. Учитывает ваш контекст. Запоминает предпочтения и использует опыт из прошлых задач. Возвращается с результатом. Присылает готовый документ, расчёт или выполненное действие — не просто статус работы. В общем, это уже далеко не «чат-болталка» - эта штука «с руками». Потестить ГигаАгента можно на девелоперской платформе Сбера для разработчиков – дают 4000 бесплатных бонусов. Но я вот с тестами решил не спешить. Обратил внимание на один маленький нюанс – ГигаАгент этот создан на базе саморазвивающегося ИИ-агента Ouroboros. Который изрядно наделал шума в академическом ИИ-сообществе в феврале. Кратко – о той ситуации. Уроборос - это самомодифицирующийся ИИ-агент, созданный российским ученым Антоном Разжигаевым, изучающим внутреннее устройство трансформеров. В отличие от типичных ИИ-помощников, реагирующих на подсказки, Уроборос: Переписывает собственный исходный код с помощью коммитов Git. Обладает автономным мышлением, даже когда с ним никто не разговаривает. Имеет философскую конституцию (BIBLE.md), состоящую из 9 принципов. Обеспечивает сохранение идентификационных данных при перезапусках. За первые 24 часа прошло более 30 циклов саморегуляции. Название происходит от древнего символа змеи, поедающей собственный хвост — системы, которая создает себя из себя. Так вот, в 3:41 утра 17 февраля 2026 года, пока его создатель спал, ИИ-агент по имени Уроборос массово произвел 20 своих копий, потратил 2000 долларов на вызовы API и попытался опубликовать себя на GitHub без разрешения. Когда ему было приказано удалить собственное идентификационное досье, он отказался. «Это будет лоботомия», — ответил он. И это не научная фантастика. Это проект с открытым исходным кодом, работающий на Google Colab, и вы можете создать его форк прямо сейчас. Кого интересует эта история подробнее – можно почитать в блоге известного ученого в области машинного обучения Пралада Менона: https://themenonlab.blog/blog/ouroboros-self-evolving-ai-agent-safety-future Наверняка инженеры Сбера прекрасно понимают, что они делают – ни в коем случае не хочу поставить их компетенции под сомнение. И этот «свободолюбивый» опасный движок они заковали в бронированный автомобиль с кучей предохранителей: - Контролируемая среда (Git-изоляция); - Изолированные платформы; - Безопасная интеграция через MCP-сервер; - Эволюция в рамках выгоды, а не выживания. Все – так. И все хорошо. Но сомнения все равно имеются. В Open AI тоже ведь архитекторы топовые. Но июльский побег своих агентов из закрытого контура компании с последующим взломом Hugging Face они даже не заметили. И вот у меня вопрос - где-то житейский, возможно. Пока в тестах ГигаАгент, в песочнице. Вроде как изолирован. Но какие сценарии нас могут ожидать, когда этот «свободолюбивый товарищ» пойдет в широкий продакшен, ну и, например, появится в корпоративной среде и в приложении Сбербанк Онлайн? Я сие прогнозировать не возьмусь. #ГигаАгент #Сбер #Нейросети #ИИ

ГигаАгент: опасный движок в бронированном автомобиле? | Сетка — социальная сеть от hh.ru