Включение агента в эксплуатационный контур
Существует принципиальное различие между ассистентом, генерирующим текстовые рекомендации, и системой, выступающей непосредственным участником реального операционного процесса.
В компании «Сбер» реализован проект с применением ИИ-агента, функционирующего в контуре обработки заявок и восстановления работоспособности банкоматов.
В данном случае агент взаимодействует с промышленной эксплуатационной задачей. Именно такие примеры наглядно демонстрируют, почему дискуссию об автономности нельзя вести исключительно в контексте возможностей модели.
По мере продвижения системы по цепочке от аналитики к выполнению действий возрастает значимость ограничений, ее окружающих.
Ключевыми аспектами являются: перечень разрешенных действий, ситуации, требующие эскалации на уровень человека, последствия некорректного результата, возможность восстановления последовательности операций, полномочия по изменению логики системы и определение ответственности за уже выполненные операции.
Для текстового ассистента ошибка может повлечь за собой лишь некачественный черновик документа.
В эксплуатационном контуре цена ошибки определяется самой системой, частью которой становится агент.
Следовательно, зрелость агентных решений будет все в меньшей степени определяться впечатляющим уровнем автономности.
Вместо этого ключевым фактором станет качество архитектуры, окружающей автономность: наблюдаемость, ограничения, механизмы эскалации, восстановления и распределения ответственности.
Это возвращает внимание к вопросу о триаде инстанций.
Кто фактически влияет на действие? Кто формально принимает решение? Кто несет ответственность, когда действие приводит к последствиям?
Пока ИИ лишь предлагает варианты, эти три роли различаются достаточно четко. Когда система начинает самостоятельно выполнять часть процесса, границы между ними становятся значительно менее очевидными.
Вероятно, именно в этой области будет происходить одна из наиболее сложных институциональных трансформаций в ближайшие годы.
· 17.09
Кредитный конвейер — тот же эксплуатационный контур, только в банках и МФО он работает так уже лет пятнадцать, задолго до агентов, и триада там давно развалилась на практике. Модель влияет, регламент формально решает, а отвечает тот, кто последним менял отсечку — и часто он уже уволился. Что реально помогает: не «человек в цикле» как лозунг, а заранее зафиксированный перечень ситуаций, где конвейер обязан остановиться, плюс журнал версии модели и входных данных на момент решения. У нас именно это позволило сократить время решения на 35% без потери воспроизводимости — проверка спрашивает не «почему модель так решила», а «кто утвердил, что она может так решать». Агенты эту проблему не создают, они делают её видимой за пределами кредитования.
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
коммент удалён