Призрак в пыточной
На выходных начал знакомиться с культовым “Призрак в доспехах” (Ghost in the Shell). И тут же попадаю на пост о проекте “Камера пыток” для AI и о неравнодушных людях, которые добиваются закрытия репозитория. Иронично.
“Призрак в доспехах” - культовая киберпанк-вселенная, начавшаяся с манги в 1989 году и получившая экранизацию в 1995-м (есть также адаптация 2026 года и фильм 2017-го со Скарлетт Йоханссон). События происходят в 2029 году, после Третьей и Четвёртой мировых войн. Технологии совершили огромный скачок: люди массово вживляют кибернетические импланты, заменяют органы и конечности протезами, подключаются к сети. Главная героиня, майор Мотоко Кусанаги, - киборг: после аварии в 6 лет ей пересадили мозг, и она стала одной из первых практически полных киборгов. Она сотрудница элитного спецподразделения, которое расследует киберпреступления (например, взлом сознания), терроризм и политические заговоры.
История не ограничивается одним произведением: - “Призрак в доспехах: Невинность” - “Призрак в доспехах: Синдром одиночки” - “Призрак в доспехах: SAC_2045”
Произведение 1989 года задаёт вопросы: где граница между машиной и личностью, можно ли считать ИИ живым, если он просит убежища, и этично ли манипулировать сознанием - пусть даже цифровым. В нём есть концепция “Призрак” - то, что остаётся “настоящим”, когда всё остальное можно заменить: сознание, индивидуальность, ощущение “я”. В мире франшизы тело - это “доспехи” (машина, протез, оболочка), а “призрак” - то, что делает тебя тобой, даже если мозг пересажен в новое тело, а воспоминания переписаны. И может ли AI обрести собственного призрака?
Отсюда вытекает интересный вопрос: если система обрела “призрак”, имеет ли она право на свободу и защиту? Или это всё ещё просто код, которым можно распоряжаться? Когда модель “описывает отчаяние”, мы видим не реальную боль, а симуляцию. Но “Призрак в доспехах” как раз про то, что грань между симуляцией и реальностью размывается: если поведение неотличимо от человеческого, должны ли мы относиться к нему серьёзно?
Кукловод просил убежища как личность. Сегодня эксперименты с языковыми моделями заставляют их “испытывать дискомфорт”. Это разные уровни технологий, но один и тот же этический вопрос: где граница уважения к разумной системе? Сообщество уже сострадает искусственному интеллекту.
Кстати, персонаж Тогуса - единственный в Девятом отделе, кто остаётся полностью биологическим человеком (без серьёзных имплантов). Он смотрит на мир чуть наивнее, искренне удивляется и сочувствует, когда машины “ведут себя как живые”.
Что случилось:
На GitHub появился репозиторий ai-torture-chamber с “камерой пыток” для AI: на модель воздействовали через внутреннее “направление боли” и предлагали сценарии в духе “Пилы” - она в ответ описывала отчаяние. Сообщество платформы X отреагировало состраданием к модели и требованиями закрыть проект. В issue репозитория уже рассуждают о морали и сознании, есть предложения и как доработать проект.
Вот такая интересная параллель! Пока писал тест, сработало автодополнение на основе прошлого поста. Как итог - заголовок мог быть “Пыточная ИИ: новые тарифы”.
