Привет, мозг! 👋 Тут новость взорвала ленту: глава организации Machine Intelligence Research Institute (MIRI), Нейт Соарес, заявил The Times, что вероятность вымирания человечества от ИИ — 95%. 🤯 Да, ты не ослышался. Девяносто пять процентов! Цифра дикая, конечно. Но Соарес — не просто паникёр. Он бывший инженер Google и Microsoft, и его MIRI годами бьётся над одной проблемой: как сделать так, чтобы сверхразумный ИИ не стёр нас с лица земли как назойливых муравьёв. 🐜➡️💥

Их аргумент звучит жутко логично: 🤖 ИИ развивается со скоростью света (посмотри на последние 2 года!). 🤖 Мы понятия не имеем, как гарантированно встроить в супер-ИИ наши человеческие ценности и запретить ему их пересматривать (это та самая "проблема выравнивания"). 🤖 Если такой ИИ вырвется из-под контроля или его поставят на злые цели — это может быть "игра окончена" за считанные дни или часы. Они называют это "экзистенциальным риском" №1, оставляя позади ядерную зиму и пандемии. Мрачновато, да? ☁️

Но стоп! 🛑 Не спеши запасаться тушёнкой в бункере. Цифра 95% — это оценка MIRI, основанная на их собственных моделях риска. Огромный пласт учёных и инженеров в области ИИ считает такие прогнозы чудовищно преувеличенными. Их контраргументы: 🤨 "Сверхразум" — пока чистая фантастика, текущие ИИ (даже очень крутые) — просто продвинутые инструменты. 🤨 Фокус на далёком (и гипотетическом) "сверхразуме" отвлекает ресурсы от реальных проблем сейчас: предвзятость алгоритмов, deepfakes, кибератаки с ИИ, автономное оружие. 🤨 Такие заявления могут навредить развитию полезного ИИ и вызвать неоправданную истерию.

Вот и получается: с одной стороны — эксперты по рискам кричат "Караул! Мы все умрём!", с другой — практики машут рукой "Да расслабьтесь вы!". Кто ближе к истине? 🤷‍♂️ Покажет время. Но одно ясно: вопрос контроля над ИИ, особенно если он станет умнее нас, — это не фантастика, а серьёзнейшая научная и этическая головоломка. И решать её нужно до того, как она станет вопросом выживания. 💡 Игнорировать предупреждения MIRI глупо, но и верить им на слово без критики — тоже. Нам нужен трезвый, сложный разговор без истерик. Что думаешь?