Мы привыкли измерять эффект технологии по тому, насколько быстрее стала отдельная операция.
С ИИ этого уже недостаточно. В карточках — коротко. Ниже оставлю полный разбор с кейсами и источниками.
Что именно мы оптимизируем с помощью ИИ?
За несколько десятилетий научились автоматизировать расчёты, передачу данных, маршрутизацию документов, поиск, учёт, контроль сроков, повторяющиеся операции.
Для этого сложился понятный управленческий аппарат: можно описать процесс до и после изменения, убрать лишние действия, сократить время операции, уменьшить ручной ввод, изменить маршрут и затем посмотреть, что произошло со стоимостью, временем и пропускной способностью.
Большая часть этого опыта складывалась в мире, где технологии работали преимущественно с уже формализованной частью деятельности.
Человек определял задачу, понимал контекст, интерпретировал ситуацию, формулировал содержание и принимал профессиональное решение, а цифровая система выполняла операции, которые удалось заранее описать правилами.
Алгоритмические системы начали двигать эту границу задолго до генеративного ИИ, но сейчас технология массово входит в ту часть процессов, где до этого находились интерпретация, профессиональное суждение и производство самого содержательного результата.
ИИ пишет код, готовит аналитические материалы, предлагает решения, формирует заключения, ищет закономерности, ранжирует варианты, строит аргументацию.
При этом эффект внедрения мы часто продолжаем измерять так же, как раньше: сколько времени занимала операция до автоматизации и сколько занимает после.
Если текст теперь появляется за двадцать минут вместо трёх часов, выигрыш очевиден.
С процессом «целостным» процессом всё сложнее.
30 июня Godot Foundation изменила правила приёма внешних изменений в код. У проекта уже был большой поток pull request при ограниченном числе квалифицированных людей, способных их содержательно проверять, а распространение ИИ усилило этот разрыв: подготовить изменение стало проще, количество поступающих предложений выросло, при этом объём работы по проверке и число проверяющих практически не изменились. Review сейчас прямо назван крупнейшим узким местом проекта; автономные ИИ-агенты запрещены, существенная генерация кода ограничена, а каждое изменение должно пройти человеческую проверку до включения в продукт.
Linux Kernel выстраивает этот процесс иначе. Использование ИИ допускается, но ИИ-агент не может поставить Signed-off-by: подтвердить Developer Certificate of Origin может только человек. От него требуется просмотреть сгенерированный код, проверить лицензионные требования и принять полную ответственность за вклад. Система может участвовать в производстве результата, тогда как полномочие принять его и ответственность за последствия остаются у человека.
OpenTelemetry тоже допускает генеративный ИИ и при этом отдельно фиксирует стоимость проверки человеком. Время сопровождающих ограничено, качественная проверка требует существенных затрат, а поток слабых ИИ-сгенерированных изменений способен забирать ресурс у содержательной работы с другими вкладами. Поэтому человек должен понимать, проверять и валидировать полученный результат до передачи дальше и сохраняет ответственность за итог.
В KubeVirt описан ещё один вариант той же конфигурации: ИИ может создавать внешне правдоподобный, избыточно сложный или переусложнённый код, который создаёт непропорциональную нагрузку на проверяющих. Автор должен понимать каждую строку, привести результат к требованиям проекта и полностью отвечать за отправленный материал независимо от его происхождения.
Параллельно довольно быстро растёт сам объём такого производства.
В AIDev исследователи собрали 932 791 pull request, созданный пятью ИИ-агентами, в 116 211 репозиториях GitHub.
Эти данные сами по себе не позволяют судить об экономической эффективности или качестве, но дают представление о масштабе нового потока, который дальше должен пройти обсуждение, проверку, исправление или принятие.
Работа с несколькими агентами ещё сильнее меняет устройство процесса.
В исследовании использования продолжение
