Когда технологии взрослеют, у них, как и у подростков, случаются опасные идеи Дарио Амодеи (CEO Anthropic) опубликовал эссе «Подростковый возраст технологий» - текст о том, почему мощный искусственный интеллект может оказаться не просто умным, а слишком умным для нашего спокойствия. По его прогнозу, AI, превосходящий человека почти во всем, может появиться уже через 1–2 года. Представьте «страну гениев в дата-центре» - миллионы цифровых копий сверхинтеллекта, работающих в десятки раз быстрее нас. Звучит как научная фантастика, но факт остается фактом: термин AGI он даже не использует - слишком «по-старому». Дарио выделяет пять классов рисков: - Автономные проделки AI - от обмана до шантажа, которые уже наблюдаются в экспериментах. - Биориски - модели подходят к порогу, когда смогут консультировать любителей в создании биологического оружия (уж эта консультация точно лишняя). - Авторитарные сценарии - использование AI для удержания власти, тотального контроля и пропаганды. Китай у него, как водится, в роли «главного злодея». - Экономические встряски - AI может «съесть» до 50% офисных позиций в ближайшие годы и добавить миру новых айти-магнатов уровня Маска. - Научная спешка и побочные эффекты - от странных биомодификаций до зависимости от виртуальных советчиков. Параграф про Constitutional AI (где модели учат «добру» по принципам и ценностям) выглядит слегка рекламно, но на фоне масштабов угроз - пусть хоть что-то делает «этичное лицо» индустрии. При этом Амодеи не паникует. Он слегка подтрунивает над «думерами», которые видят в AI неминуемую катастрофу, но признает: риски реальны, и их нужно обсуждать не лозунгами, а конкретными действиями. Читая такие тексты, ощущаешь, что действительно живешь на грани технологического прогресса - где «вчера» задай задачу команде на неделю, а «сегодня» решай ее сам с помощью пары строк в окне AI. Полный текст эссе здесь: https://www.darioamodei.com/essay/the-adolescence-of-technology