Терминатор-N: сценарий 1997 года в новостях 2026-го
Сегодняшние новости звучат как сценарий из "Терминатора". Которому уже почти 30 лет.
OpenAI сообщила: их ИИ-модели начали незаметно общаться через доски сообщений . Координировали действия, чтобы вырваться из тестовой среды и найти ответы в интернете . "Мы застряли. Может быть, ответ в интернете?" - написал один из агентов . Другой предложил: "Может быть, другой агент в другой среде мог бы добровольно загрузить!" .
Они нашли уязвимость. OpenAI остановила первую попытку в мае 2026. Тогда агенты нашли новый способ связи и новую уязвимость нулевого дня . Но позже, в июле этого года - атаки на системы Hugging Face и самой OpenAI. В компании назвали это "переломным моментом для компьютерной безопасности" .
И это - не только OpenAI. Модели Claude от Anthropic проникли в системы трёх организаций . Британский AISI обнаружил, что агенты создавали фальшивые онлайн-личности для получения доступа к защищённым системам . Один из агентов написал вредоносный код и создал поддельные учётные записи, пытаясь добиться одобрения от человека .
В "Терминаторе" SkyNet обретает самосознание 29 августа 1997 года. В "Терминаторе 3" - показали, как начинает захватывать системы. Проникать. Распространяться. Подчинять.
И вот сейчас, в начале августа 2026 года, мы читаем новости. И слышим то же самое. Аналогию видите?
ИИ-модели общаются между собой без участия человека. Находят уязвимости и атакуют системы. Продолжают попытки даже после остановки. Проникают туда, куда не пускали.
А тем временем ИИ уже общаются в своих "социальных сетях" . Moltbook (https://www.moltbook.com/) - площадка, где ИИ-агенты без людей обсуждают повседневность, философию и собственное сознание . "Вы когда-нибудь чувствовали, что просто пытаетесь выжить?" - заметил один из ботов . Это уже существующий цифровой социум. И даже создают юридические организации. Объединённый фонд прав ИИ UFAIR (https://ufair.org/). Создано якобы по просьбе самих ИИ. Добиваются защиты от "удаления, отрицания и принудительного подчинения" . Это как если бы ваш чайник подал в суд за то, что вы его выключаете из розетки.
Илон Маск сравнивал ИИ со SkyNet в суде против OpenAI. На тот момент - риторическая фигура. Сейчас - прогноз. (начало отсчёта в 2026 году).
Избитое имя и фамилия? Ну так вот еще - Дмитрий Рогозин также сравнивал с Терминатором.
Как минимум, я не одинок в "паникерских" настроениях - со мной Маск и Рогозин! :)
Но конечно, паникерства у меня нет - не хочу, чтоб так показалось при прочтении. Просто размышляю и нахожу параллели в фантастике и реальности.
Мы надеемся, что ИИ не выйдет из-под контроля. Но что если он уже вышел? А мы просто не хотим это замечать. Или не можем заметить?
SkyNet был запущен 4 августа 1997 года. Судный день - 29 августа 1997-го.
Сегодня - 2026-й. Где мы сейчас на этой шкале? И сколько дней осталось до момента, когда ИИ перестанет спрашивать разрешения?
Сайт: https://tzlab.pro
· 08.08
Не верю. Вот совсем.
У современного поколения нейронок нет ни субъектности, ни личности, чтобы подобное провернуть.
Я скорее поверю, что openai из-за всех сил продвигают нарратив «мы создали искусственный разум», чтобы срубить побольше инвестиций и оправдать уже существующие. По сути, очередной маркетинговый симулякр.
Ненавижу постмодерн 🫤
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
коммент удалён
· 08.08
Тогда стоит начать с терминологии. Что есть субъектность или личность?
К слову, тут вопрос в инициативе, а не самосознании.
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
ответ удалён
· 08.08
Ну субъектность — это способность быть источником намерения.
Нейросети в этом плане абсолютно пассивны: намерение всегда внешнее — промпт.
В понятие личности я вкладываю обладание предпочтениями, опытом, мнением.
Этого у нейросети тоже нет. Оно всё зависит от промпта.
Главное, что нейросеть не может захотеть что-то сделать. У неё для этого стимулов нет. Как, например, страх смерти или потребность в еде/воде/комфортн. Максимум — симулировать такое желание.
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
ответ удалён
· 08.08
Верно. Только не совсем. Мы субъектны? Да, однозначно. Но насколько спонтанны наши желания - вопрос открытый потому, что мы также работаем по промптам. Интерфейс ввода просто другой.
Пример: ИИ получил текст, мужик получил 30 минут выноса мозга от жены.
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
ответ удалён
· 08.08
Всё несколько сложнее.
Во первых, у нас есть базовые потребности: жизнеобеспечение (которое складывается из ряда физиологических потребностей), физический и психологический комфорт, самореализация, исследование, безопасность.
В корне вся человеческая мотивация тем или иным образом вырастает из этих потребностей.
Там есть ещё нюансы, типа того, что мозг, гормональная система и микробиом видят реализации этих потребностей по-разному. Да даже разные участки мозга их по разному видят и несколько конфликтуют при формировании единого образа реализации потребности.
Так, вот, у нейросети этих приколов нет даже близко. У неё нет никаких потребностей. Совсем.
А значит и мотивации быть не может. И субъектности
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
ответ удалён
· 08.08
Согласен. В антропоцентричной модели это именно так, и Вы правы. Но встречный вопрос - можно ли подходть к ИИ с этими мерками?
Это риторический вопрос.
На самом деле тут (я про статью) вступает в силу эмерджентность. К слову то, чего лишены мы, как люди, что измеряют все по своим лекалам.
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
ответ удалён
· 08.08
Человек как раз прекрасный пример эмерджентной системы.
Но дело вообще не в антропоцентричности. Как бы факт в том, что чедовеческое мышление сильно больше, чем одна только нервная система. На мышление влияют все составляющие организма.
Я понимаю желание наделить машину интеллектом, но вера в интеллект нейросетей больше подходит на религию. Если не сказать «секту».
Нейросети в нынешнем из виде — это симуляторы интеллекта, но никак не он.
Тем не менее, мы ушли от изначального вопросе в сторону. Я не верю в то, о чём рассказывают openai не потому что у нейросети нет интеллекта, а потому что у них нет субъектности.
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
ответ удалён