Goldman Sachs: модели становятся операционными системами
Звучит как красивая метафора с конференции. Но если вдуматься - это смена того, кто в софте главный. Раньше схема была простая: приложение - это жёстко зашитая логика. Программист прописал правила, программа их выполняет. Предсказуемо, проверяемо, отлаживаемо. Модель-как-ОС переворачивает это. Теперь в центре не код, а агент, который сам решает, к каким инструментам обратиться, какие файлы открыть, какие шаги выполнить — и, по словам CIO Goldman Марко Argenti, «перепрограммирует себя» под задачу. Это не теория: банк уже полгода гоняет таких агентов на онбординге клиентов и комплаенсе.
В этот момент стоит задуматься о целесообразности таких решений.
Когда логика зашита в код, я могу открыть его и понять, почему система повела себя так. Когда логику на лету выбирает агент — отлаживать нечего. Он не ошибся в строке 9. Он просто «решил», что так правильно. Мы получаем софт, который мощнее на порядок - и непрозрачнее на тот же порядок. Чатбот выдаёт ответ, который человек проверит. Агент выполняет действие, которое уже случилось. А управления для этого, честно говоря, пока не существует. Это вопрос, кому мы отдаём право принимать решения, и сможем ли потом объяснить, почему оно было таким. И отдельно отрезвляет вывод Argenti: кто владеет моделями - будет владеть новыми ОС. То есть всем стеком сразу.
Идея очень интересная, но вместе с ней, как мне кажется, необходимо провести еще ряд исследований и решений, которые смогли бы "наблюдать" за такой системой 🤔 А вы бы пустили автономного агента в процесс, где ошибка стоит денег или репутации, взамен на кратные увеличения производительности?
