Главный риск развития ИИ — коммунистическая партия Китая

Вырезка из документа Леопольда Ашенбреннера «Сегодня разработчики ИИ фактически передают ключевые секреты для создания общего искусственного интеллекта компартии Китая на блюдечке с голубой каемочкой.

Обеспечение безопасности секретов и параметров AGI потребует огромных усилий, и мы не находимся на правильном пути. Ведущие китайские лаборатории будут не в Пекине или Шанхае, а в Сан-Франциско и Лондоне. Через несколько лет станет ясно, что тайны общего искусственного интеллекта — это самые важные государственные оборонные секреты США, заслуживающие такого же обращения, как чертежи бомбардировщика B-21 или подводной лодки класса Columbia, не говоря уже о ядерных разработках. Но сегодня мы относимся к ним так же, как к случайному программному обеспечению SaaS. Такими темпами мы фактически просто передаем суперинтеллект компартии Китая»

Бывший сотрудник Open AI уверен: если США допустит ошибку сегодня, то процесс будет необратим. Разработки по общему ИИ попадут в руки Китая уже в ближайшие один или два года.

«Это немедленно приведет нас в состояние экзистенциальной гонки. Преимущество в суперинтеллекте могут означать решающее военное превосходство. При этом будут проигнорированы все меры безопасности, которые несет любой ответственный проект AGI в США»

«Напомню: компартия Китая — это режим, основанный на непрерывном поклонении, возможно, величайшему тоталитарному массовому убийце в истории человечества. Свободный мир должен победить авторитарные державы в этой гонке. Мы обязаны нашим миром и свободой американскому экономическому и военному превосходству. Возможно, даже обладая суперинтеллектом, компартия Китая будет вести себя ответственно на международной арене, оставив всех в покое. Но история диктаторов такого типа нерадужна. Если Америка и ее союзники проиграют в этой гонке, мы рискуем всем»

  • заключил Ашенбреннер

Что ж, судя по всему, OpenAI все это прекрасно осознала и пригласила в состав совета директоров генерала армии США Пола Накасоне, бывшего директора АНБ, сыгравшего ключевую роль в создании кибербезопасности государства.

«Первой приоритетной задачей Накасоне будет участие в работе комитета по безопасности и защите», — говорится в заявлении OpenAI.

«Они сняли все маски: никогда не доверяйте OpenAI или его продуктам (ChatGPT и т. д.). Назначение Накасоне в совет директоров — это преднамеренное и расчетливое предательство прав каждого человека на Земле», — отреагировал Эдвард Сноуден.

Главный риск развития ИИ — коммунистическая партия Китая | Сетка — социальная сеть от hh.ru