«Мы создаём сверхразум, и он нас убьёт» 🍿

В X развернулся образцово-показательный сериал, от которой пахнет не столько экзистенциальным ужасом, сколько прогревом перед IPO.

Сценарий классический: инсайдер внезапно «прозрел», испугался мощи создаваемого франкенштейна и побежал спасать человечество через соцсети и телевидение.

Для контекста — хронология событий за последние пару дней:

1️⃣ Исследователь Джейкоб Коксон, который три года занимался претрейном сначала в OpenAI, а затем в Anthropic, громко хлопает дверью и пишет тред: «Обе компании ведут себя безответственно. Они на полной скорости несутся к самообучающемуся супер-интеллекту (ASI) и играют нашими жизнями».

Твит моментально пробивает 150+ миллионов просмотров.

2️⃣ В реплаях начинается парад солидарности: сотрудница отдела безопасности OpenAI Джули Стил заявляет, что «тоже считает, что гонку нужно притормозить». А рисерчер по элайнменту из Anthropic Эван Хьюбингер философски поддакивает про вероятность уничтожения человечества, которая больше 10% (интересно, как считал?).

3️⃣И вишенка на торте: Fox News выпускает сюжет про то, что ИИ вот-вот всех нас уничтожит, а регулировать его нужно как ядерный чемоданчик.

Красиво? Кинематографично? Безусловно. Но надо понимать, что вся секта свидетелей Терминатора выполняет две приземленные бизнес-задачи (желая того явно или нет):

🟠 Маркетинг судного дня Нет более эффективного способа продать инвесторам и регуляторам свою технологию, чем на серьёзных щах заявить: «Наш софт настолько богоподобен и опасен, что наши инженеры увольняются от экзистенциального ужаса». Инвесторы слышат не «мы все умрём», инвесторы слышат «там зарыта абсолютная монополия и триллионы долларов». И это все на фоне информации об IPO Anthropic. 🤭 🟠 Регуляторный захват Обратите внимание на риторику: «нужно регулировать как ядерное оружие», «нужен ядерный чемоданчик на уровне президентов». Если убедить политиков, что обучение больших моделей эквивалентно обогащению урана, государство введет лицензирование, неподъемные комплаенс-требования и надзор. Кто сможет это оплатить? OpenAI, Google и Anthropic. Кто умрет? Весь опенсорс, независимые ресерчеры и небольшие стартапы. Сказка про ядерную кнопку — идеальный способ забетонировать рынок под себя.

Ну и предложение «давайте все дружно нажмём на тормоз» разбивается о первый же курс политологии. Если лаборатории в Сан-Франциско добровольно остановят исследования, кто-то всерьёз верит, что лаборатории в Пекине и Шэньчжэне сделают то же самое? Китайские команды просто поаплодируют калифорнийским моральным терзаниям и продолжат газовать со своими модельками только в путь.

У индустрии сейчас гигантский пласт реальных проблем: дефицит качественных данных для претрейна, дикая экономика инференса, безопасность агентных систем и куча другого. Но говорить об этом скучно — венчур под это не дают, а на Fox News не зовут. Куда веселее косплеить Оппенгеймера. 💥