Цена отказа от ИИ. Право на ошибку
Как было здорово в 10 лет запустить самодельный аэроглиссер в речушке у дома - сделанный из массива на уроках труда с помощью долото и киянки, с прикрученным моторчиком и батарейкой. Пусть плыл он не так, как я задумал, но это было незабываемо. С энтузиазмом пытался улучшить, стоя в ледяной воде ручья. Но маленький винт с трудом толкал модель. Опыт, полученный посредством собственных проб и ошибок, бесценен.
В мире взрослых ошибки имеют цену. Это уже не детская песочница, последствия влияют соизмеримо взятой ответственности. ИИ-системы достигли уровня надёжности, при которой они могут обеспечить качество и стабильность произведённого продукта. И вот, наконец, можно включить кнопку “AUTO” в терминале агента, откинуться и медитировать. Цена ошибки упала почти до нуля - всегда можно “откатить” и быстро исправить.
Я, словно капитан звездолёта, собираю от агентов сводку по проектам, взвешиваю результат, меняю стратегию и принимаю решения. Иллюзорное, но приятное чувство силы и возможностей. Достаточно описать границы, навыки, вертикаль архитектуры, обозначить ценности и... рой агентов ринулся строить проект. Здесь я становлюсь наблюдателем за продуктами жизнедеятельности ИИ-агентов и, словно директор зоопарка, пытаюсь удержать в фокусе потоки данных.
Уже практически не читаю, изредка бросаю взгляд, как в боковое зеркало машины, когда за рулём. И всё же, пока ИИ спотыкается - приходится останавливаться, погружаться в портянки отчётов и кода, объяснять ему, что не так. И снова всё вокруг копошится, перелопачивает разнообразные варианты, методы, “креативные” подходы, стремится попасть в обозначенное окно цели.
Главное - всё реализовано по высоким стандартам, описано и хорошо работает. Не это ли было целью? А если что не так, так можно снести и в короткий срок сваять заново - лимит токенов позволяет. То, что раньше занимало полгода работы сильной команды, теперь делается за неделю, а то и меньше, если ещё подписку подключить. С одной стороны - это поле экспериментов, а с другой - рутинное наблюдение за деятельностью ИИ-агентов, их “находками” - кстати, так агенты вежливо называют чужие ошибки. В общем, я как пастух, только вместо солнца в поле - свет IPS пикселей и горный пейзаж рабочего стола.
Проект готов, тысячи строк отчётности, и уже толком не ясно, как это работает. И где же я ошибаюсь? Ошибка стала менее заметной, вышла на уровень выше, растянулась во времени. Или ошибкой было делегировать весь стек ИИ-системе?
Когда-то часы или дни тратил на создание небольшой программы, читал форумы и туториалы, изучал примеры, бесконечно анализировал и пробовал, ошибался и радовался находке. Теперь это винтаж. За два года прикладное программирование обесценилось, как валюта исчезнувшей цивилизации. Начинающий уже пропускает этот этап - нет смысла тратить на это время. Автоматизация съедает пласт новичков - те кто только приходит в программирование вынуждены прыгать через ступени без багажа решённых проблем. И это делает дыру в преемственности, передаче опыта, методик мышления и исправления ошибок.
Вернется ли право на свою ошибку, сделанную руками? Тот механизм, который с детства вынуждал меня взглянуть на вещи с другой стороны.
Ошибки системы проявляются со временем, а поддержку осуществляет тот же “разработчик”. То есть ИИ-агент сделал ошибку, нашёл, исправил. На фоне потока данных можно и не заметить этот процесс.
В свете новой эпохи появляется новая религия, а значит можно перефразировать известный термин - “Отлучение от ИИ”. И вскоре это станет действительно суровым наказанием, особенно если оно персональное. Да и первых ступеней на лестнице уже нет.
Стоит только отказаться от ИИ, и право на ошибку вернётся, но цена будет с учётом инфляции.