Сериал про «мы все умрём от ИИ» продолжается 🍿

Только на днях разбирал внезапный приступ экзистенциального ужаса у исследователей из фронтир-лабораторий, удивительно совпавший с подготовкой к IPO и мега-раундами финансирования.

Редакция «Теперь вы знаете» снова обратилась ко мне за мнением. В этот раз разбирались, почему Дарио Амодеи, Сэм Альтман и примкнувший к ним Илон Маск синхронно заговорили о том, что гонку пора бы притормозить, инженеры пачками увольняются «спасать человечество», а сетевые активисты обещают за увольнения чуть ли не закрытые оргии в Сан-Франциско (да, этот прекрасный сюжетный твист в статье тоже есть 🙃).

С коллегами поясняем в том числе про: 🔵 Где граница рекурсивной петли? Насколько модели реально способны дообучать сами себя уже сегодня, какие куски инженерных пайплайнов отданы агентам и где этот процесс неизбежно упирается в физические лимиты (энергетика, дефицит человеческих данных и экономика). 🔵 Аварии нового типа: почему выходы автономных агентов за пределы песочниц (вроде памятного взлома Hugging Face) перевели разговор из теоретической плоскости в сугубо прикладную. 🔵 Дилемма заключенного: почему призыв «давайте все дружно нажмем на тормоз» не работает в мире, где у тебя под боком дышат конкуренты, а китайские лаборатории на любые калифорнийские моральные терзания смотрят с нескрываемой улыбкой. 🔵 Регуляторный захват: кому на самом деле выгодно продвигать идею «контролировать дата-центры как ядерные реакторы» и как под соусом заботы о безопасности можно красиво забетонировать поляну под бигтех, похоронив опенсорс.

👉🏻 Получился добротный материал, почитать можно здесь.

Уже даже и Трамп успел высказаться по этому вопросу и обнулил все манифесты об остановке прогресса, подтверждая наши тезисы. В Truth Social он опубликовал фирменный разнос: «Единственный предохранитель, который нужен ИИ — это сильный и умный президент с высоким IQ! Мы остановили этих ИИ-деятелей от плохих поступков, включая Дарио из Anthropic, который теперь строит из себя невинного ангелочка. Захват мира искусственным интеллектом — это такой же фейк, как глобальное потепление. Кто победит в ИИ, тот победит во всём, а против наших дата-центров устроен заговор, которому радуется только Китай!»

Вот вам и вся желаемая "пауза в исследованиях". Большие дяди даже и не допустят 🇺🇸