Сегодня была на митапе AI in SDLC в Центральном университете. Денис Артюшин из Т-Банка рассказывал, как развиваются ИИ-агенты для программистов.

Честно скажу: местами было сложно, я параллельно гуглила услышанные аббревиатуры. А в конце, когда предложили собрать своего сложного deep-агента, я совсем загрустила, но продолжала слушать.

Итак, сначала генеративный ИИ помогал с отдельными действиями: написать текст, подсказать код, найти ошибку.

Потом появились ИИ-агенты: они используют ИИ-модели, но кроме генерации ответа умеют самостоятельно планировать последовательность действий и пользоваться инструментами.

Сегодня — это системы из нескольких агентов, которые могут передавать задачи друг другу. Например, один агент получает задачу «Подготовь программу к выпуску», а дальше разные агенты могут взять на себя проверку безопасности, тестов и кода.

Итого пока можно выделить три этапа эволюции: подсказывает → выполняет задачу → организует сложную работу нескольких агентов.

Сколько этапов эволюции будет дальше? Где предел?

И кто будет отвечать за результат?

Пока ИИ просто подсказывает, всё понятно: решение принимаю я.

Когда агент сам выполняет задачу, мне уже нужно понимать, что именно я ему разрешила делать и где он должен остановиться.

А если несколько агентов начинают передавать работу друг другу, и система становится настолько сложной, что человек уже не может проследить каждый шаг, который привёл к результату — где тогда проходит граница человеческой ответственности?