Включение агента в эксплуатационный контур
Существует принципиальное различие между ассистентом, генерирующим текстовые рекомендации, и системой, выступающей непосредственным участником реального операционного процесса.
В компании «Сбер» реализован проект с применением ИИ-агента, функционирующего в контуре обработки заявок и восстановления работоспособности банкоматов.
В данном случае агент взаимодействует с промышленной эксплуатационной задачей. Именно такие примеры наглядно демонстрируют, почему дискуссию об автономности нельзя вести исключительно в контексте возможностей модели.
По мере продвижения системы по цепочке от аналитики к выполнению действий возрастает значимость ограничений, ее окружающих.
Ключевыми аспектами являются: перечень разрешенных действий, ситуации, требующие эскалации на уровень человека, последствия некорректного результата, возможность восстановления последовательности операций, полномочия по изменению логики системы и определение ответственности за уже выполненные операции.
Для текстового ассистента ошибка может повлечь за собой лишь некачественный черновик документа.
В эксплуатационном контуре цена ошибки определяется самой системой, частью которой становится агент.
Следовательно, зрелость агентных решений будет все в меньшей степени определяться впечатляющим уровнем автономности.
Вместо этого ключевым фактором станет качество архитектуры, окружающей автономность: наблюдаемость, ограничения, механизмы эскалации, восстановления и распределения ответственности.
Это возвращает внимание к вопросу о триаде инстанций.
Кто фактически влияет на действие? Кто формально принимает решение? Кто несет ответственность, когда действие приводит к последствиям?
Пока ИИ лишь предлагает варианты, эти три роли различаются достаточно четко. Когда система начинает самостоятельно выполнять часть процесса, границы между ними становятся значительно менее очевидными.
Вероятно, именно в этой области будет происходить одна из наиболее сложных институциональных трансформаций в ближайшие годы.
