🤖 ИИ убьет людей через несколько лет

Неделю назад Сэм Альтман (СЕО компании OpenAI, которая разработала ChatGPT) написал статью в личный блог и сказал, что OpenAI уже знает, как сделать AGI.

Что такое AGI (нажмите, чтобы раскрыть) AGI (Artificial General Intelligence) — это гипотетическая концепция искусственного интеллекта, который обладал бы способностью понимать, учиться и применять знания в любой области так же хорошо, как это делает человеческий разум, или даже лучше.

Представьте себе очень умного робота или компьютерную программу, которая может решать любые задачи, с которыми справляется человек. Этот ИИ мог бы не только отвечать на вопросы и выполнять поручения, но и творчески мыслить, адаптироваться к новым ситуациям, самостоятельно ставить цели и достигать их.

В отличие от существующих ИИ-систем, которые обычно специализируются на определенных узких задачах (например, распознавание речи, игра в шахматы или управление автомобилем), AGI был бы универсальным и гибким, как человеческий интеллект. Он мог бы осваивать новые навыки, комбинировать знания из разных областей и находить креативные решения совершенно незнакомых проблем.

Пока что AGI остается лишь теоретической концепцией. Еще непонятно, как именно создать продвинутую ИИ-систему Вот, что конкретно сказал Сэм:

1️⃣ Изначальной миссией OpenAI была разработка AGI, поскольку основатели считали, что это возможно и потенциально может стать самой влиятельной технологией в истории человечества. Конкретных деталей о том, как будет работать AGI, в статье не приводится.

2️⃣ Сейчас в OpenAI уверены, что знают, как создать AGI в том виде, в каком его традиционно представляли. Однако как именно это будет реализовано технически, в статье не раскрывается.

3️⃣ Компания ожидает, что в 2025 году могут появиться первые ИИ-агенты, которые «выйдут на рынок труда» и существенно изменят продуктивность компаний. Но опять же, конкретных примеров того, как это будет работать, не приводится.

4️⃣ В более отдаленной перспективе OpenAI нацеливается на создание «суперинтеллекта» в истинном смысле этого слова, который сможет значительно ускорить научные открытия и инновации. Однако детали реализации этой концепции в статье не раскрываются.

Многие высказывались по теме AGI. Кто-то ждет этого будущего и говорит о том, что после этого человек сможет жить полностью для себя и заниматься только тем, что ему нравится. А кто-то считает, что после появления AGI и суперинтеллекта люди не будут нужны и мы вымрем. Правда или нет, узнаем по ходу.

Из всех высказываний мне нравятся мысли Стюарта Рассела, специалиста в области информатики и исследователя искусственного интеллекта. (Нажмите, чтобы раскрыть) Этот надвигающийся переход к миру, где мы будем сосуществовать с сверхчеловеческими сущностями, если это действительно самое значительное событие в истории человечества, то кажется, что каждый должен быть вовлечен в принятие решений о том, будет ли это происходить и как именно. На данный момент решения принимают генеральные директора компаний. И я думаю, что у них есть личная заинтересованность в этом вопросе. Несколько из них заявили, что существует значительная вероятность, например, 10 или 25%, полного вымирания человечества. Таким образом, они принимают решение играть в русскую рулетку с судьбой всего человеческого рода без нашего согласия. Я бы не позволил кому-то прийти в мой дом и сыграть в русскую рулетку с одним из моих детей. А вы бы позволили? Так почему мы позволяем им делать это со всеми живущими на Земле людьми? Пока что тяжело судить, кто прав и как оно будет на самом деле. Самое адекватное решение сейчас — продолжать жить и развиваться. Не думаю, что в один день мы проснемся в мире, где человек больше не нужен. Скорее всего, это будет плавный процесс, во время которого придется быть гибким и адаптируемым.