Запускаешь агента, ждёшь ответ, а пауза может оказаться в подготовке окружения. Поэтому прежде, чем выбирать другую модель, я бы отдельно измерил запуск окружения и ожидание ответа модели. Иначе можно поменять модель и сохранить прежнюю задержку.

В AgentCore Runtime V2 AWS изменила именно запуск: сервис один раз готовит окружение, сохраняет снимок его состояния и восстанавливает из него новые экземпляры. Подготовку не приходится полностью повторять при каждом холодном старте.

Во внутренних тестах AWS P75 холодного старта V2 составлял около двух секунд для образов размером от 200 МБ до 2 ГБ. Это означает, что 75% замеров укладывались примерно в такое время. У прежней версии задержка росла вместе с размером образа: примерно с 5,4 до почти 30 секунд. Почти 30 секунд относятся к большим образам. Эти цифры не означают, что сам агент стал выполнять задачи в 15 раз быстрее.

Для практической оценки я бы посмотрел на размер образа и время инициализации: сколько занимают импорты библиотек, загрузка ресурсов и подготовка клиентов. В V2 повторно используемую подготовку AWS рекомендует выполнять до создания снимка. А значения, которые могут устареть, например временные токены, нужно обновлять при обработке запросов.

С памятью тоже изменился подход. V2 добавляет её по потребности и возвращает неиспользуемую, вместо того чтобы удерживать пиковый объём. Поэтому для сравнения мне нужен график потребления во времени. Один максимальный показатель ещё не объясняет расходы.

Цена за единицу ресурсов выше прежней. Сокращение потребления GB-часов может снизить итоговый счёт, но экономия не гарантирована. Собственных замеров V2 у меня нет; здесь опираюсь на данные AWS.

Для решения о переходе я бы сравнил задержки и стоимость при одинаковой нагрузке. Быстрый холодный старт полезен, если именно он заставлял пользователя ждать. Если основное время занимает ответ модели, эта часть задержки останется.

#ИИ #AWS #ИИагенты #Инфраструктура #Разработка

Источники: Обзор AWS: https://aws.amazon.com/blogs/aws/aws-weekly-roundup-agentcore-runtime-v2-amazon-dynamodb-bulk-put-items-and-more-november-9-2026/?utm\_source\=chatgpt.com Документация V2: https://docs.aws.amazon.com/bedrock-agentcore/latest/devguide/runtime-v2-optimize.html?utm\_source\=chatgpt.com