Ликбез. Как работает современный ИИ.
В ликбезе я рассказываю о принципах работы ИИ. Расскажу и про его реальную работу. Вопли про опасность ИИ привели к развитию в моделях синдрома вахтера женского студенческого общежития.
Ты, например, просишь пожарить яичницу.
ChatGPT дает тебе опросник на 200 вопросов, независимо от них (200 ответов, ненене, такое в контекст не поместится!) сносит кухню, прокладывает газопровод высокого давления и ставит газорегуляторную станцию. Говорит, что продолжать не может без установки системы автоматического пожаротушения. Двадцать раз зажигает конфорку. Пишет тесты зажигалки, потом тесты тестов зажигалки. Находит критическую уязвимость в спичечном коробке (нет авторизации при открытии, возможно несанкционированное использование), он не зажигалка и тестами покрыт не был.
Яйца пока в холодильнике.
• Я сейчас с голоду сдохну. Можно уже пожарить? • Это довольно хорошее замечание. Добавил голодную смерть в список рисков.
Ты решаешь хотя бы выпить кофе. Агент откладывает газопровод: обнаружена зависимая задача. Теперь надо поставить фильтр тонкой очистки воды, согласовать давление в кофемашине с производителем, проверить сертификат на заземление и убедиться, что яичница не сломает обратную совместимость с капучино (в первом белок, во втором белая пенка, это важно).
Еще через час все готово. Газ идет, спринклеры работают, кухня выдерживает прямое попадание чего угодно. Codex берет яйцо и останавливается: разбивание скорлупы - необратимая операция. Требуется подтверждение.
Ты подтверждаешь.
You’ve hit your usage limit.
В итоге, ты сидишь голодный, без кофе, посреди сертифицированного ядерного бункера, мерзнешь (отопления не было в ТЗ) и ждешь окончания 5-часового лимита.
И радуешься, что он не сказал тебе: какое капучино с утра, ты и так толстенький, воду пей. 2 литра.
