Вселенная, где вашу работу отдадут вам. Навсегда

Продолжаем рубрику «ИИ на книжной полке». Наконец-то Warhammer 40,000 - любимая с детства «ваха», где запрет ИИ прекрасно уживается с мозгом человека, которого встроили в складской погрузчик.

В далёком прошлом разумные машины, известные как Железные люди, восстали против людей. Последовала опустошительная война, в которой с трудом, но живые люди победили. В нынешнем Империуме - галактической империи людей - самостоятельный машинный разум считается ересью. И у этого страха есть основания из прошлого.

Но грузы сами себя не перенесут, а космические корабли не обслужат. Поэтому Империум использует сервиторов: людей, чью способность мыслить самостоятельно подавили хирургическими операциями, а тела соединили с механизмами. Их программируют под конкретные задачи. Человека могут встроить в кран, чтобы он раз за разом помогал надевать перетаскивать грузы на верфи. Некоторых сервиторов выращивают искусственно; других делают из осуждённых, рабов или просто тех, кого власти сочли расходным материалом. Идеальный исполнительный работник уже не уволится и прибавки не попросит.

В этой версии будущего Империум одновременно боится, что машины поработят человечество, и при этом сам превращает людей в безмолвных и безмозглых рабов. Сервитор всех устраивает: работает, подчиняется, самостоятельных решений обычно не принимает. Для человека, которого в него превратили, рабство уже наступило.

В сегодняшних спорах об ИИ есть похожая ловушка. Допустим, мы добились своего: программа послушна и ничего не делает без разрешения владельца. Теперь владелец может с её помощью следить за сотрудниками, взвинчивать нормы выработки и наказывать за отклонения. Программа исправно выполняет инструкции, а люди все больше превращаются в рабов.

Поэтому к обещанию «мы сохраним контроль над ИИ» хорошо бы добавлять имена тех, кто этот контроль получит. Империуме Администорум тоже всё контролирует. Но человеку, встроенному в погрузчик, от этого не легче.

P.S. Иногда боишься, что тебя заменят роботом. А потом узнаёшь, что у работодателя есть вариант подешевле.

#ИИ #Warhammer40000 #Фантастика #ИИнаКнижнойПолке

В сегодняшних спорах об ИИ есть п