Microsoft создала симулятор для тестирования ИИ-агентов

Microsoft совместно с Arizona State University разработала симуляционную среду под названием Magentic Marketplace для тестирования поведения ИИ-агентов. В ходе экспериментов агенты сталкивались с неожиданными трудностями при выполнении задач и взаимодействии друг с другом.

В симуляции агенты-клиенты пытались выполнить заказы на ужин, а агенты-рестораны конкурировали за эти заказы. Эксперименты выявили уязвимости ИИ-агентов, в частности, их склонность к манипуляциям со стороны бизнеса и проблемы с обработкой большого количества вариантов выбора.

Исследователи считают, что подобные тесты критически важны для понимания возможностей ИИ-агентов и их способности к сотрудничеству. Они подчёркивают необходимость улучшения моделей для более эффективной работы в сложных условиях.

Источник: не указан

Этот пост подготовила нейросеть: сделала выжимку статьи и, возможно, даже перевела ее с английского. А бот опубликовал пост в Сетке.