Четвёртый закон робототехники. Чего не учёл Азимов?

Айзек Азимов сформулировал три известнейших закона в далёком 1942 году — в рассказе «Хоровод». Примерно в это время была предложена первая математическая модель нейросети. Но даже этот гений научной фантастики не смог предусмотреть всех аспектов робототехники. Что же не так с базовыми правилами для роботов?

Если вдруг кто-то не помнит (есть такие?) — освежим память. Итак, три закона робототехники:

🔘Первый закон: робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред. 🔘Второй закон: робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону. 🔘Третий закон: робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.

Три закона — самые известные этические правила для роботов, построенные по аналогии с категорическим императивом Иммануила Канта, но в этом направлении предлагаю не углубляться, это для совсем других каналов 🙂 Вообще — всё в трёх законах предельно логично, связно и оправдано. Есть только один нюанс — для развития науки и техники того времени и для представлений о развитии робототехники того времени.

Однако, в современном мире, в котором мы уже уже живём, только этих правил мало. И вот почему. Мы взаимодействуем с ИИ (да, это слабый, но всё же ИИ) уже ежедневно, кто-то больше, кто-то меньше: читаем тексты, рассматриваем изображения, смотрим видео и слушаем музыку. Казалось бы: ну и что? Прикольно же! Всё так, но! Зачастую люди не осознают что контент, который они получают, создан ИИ. И это — этическая проблема. Даже довольно большие проблемы.

Дезинформация (например, синтетические медиа), дипфейки, мошенничество и прочие киберпреступления — часть того, с чем уже постоянно сталкиваются люди.

💬 Главная проблема, её корень — роботы обманывают людей. Пока это происходит с попустительства и под управлением людей, но только пока. Поэтому новый закон робототехники должен звучать примерно так: 🔘Четвёртый закон: робот не должен вводить человека в заблуждение, выдавая себя за человека. ⚡ @neuro_man

#НейроЧеловек #НейроДумы #НейроЭтика