Всё тесты зеленые - можно не думать
OpenAI создаёт собственный чип Jalapeño. Чтобы он быстрее запускал нейросети, Codex написал для него около 30 тысяч строк кода. Инженеры знают, что программа должна делать, и проверили результат. Но объяснить, зачем нужна каждая строка, уже не могут.
Для владельца телевизора это нормально: нажал кнопку, картинка появилась. А здесь устройство не понимают до конца специалисты, которым потом его обслуживать и чинить. Код всё равно приняли, потому что тесты пройдены и всё работает быстро. Логика бизнеса железная: зачем платить людям за долгий разбор, если машина уже дала нужный результат?
Так меняется работа инженера. Раньше он писал реализацию и должен был её понимать. Теперь он задаёт архитектуру, критерии правильности и тесты, а затем принимает результат машины. «Работает - не трогай» из шутки превращается в метод разработки.
Программа начинает походить на запечатанную деталь с завода: установили, проверили, внутрь никто не лезет. Только вот при поломке людей ждут десятки тысяч строк, которых никто из команды не писал. Первый редкий сбой, не предусмотренный тестами, и инженерам придётся искать ошибку в чужом для них коде и отвечать за последствия. Сам Codex, предполагаю, к начальству на ковер не пойдёт.
Нейросеть уже пишет непонятный людям код, чтобы другие нейросети работали быстрее. Похоже, мы уже готовы доверять тому, чего не понимают даже специалисты. Достаточно, чтобы лампочка пока горела зелёным.
P.S. Интересно, сколько непонятных строк нужно накопить, чтобы разработка превратилась в веру в работающий результат? Слава Омниссии!
