Даже Ватикан не устоял: оказалось, что энциклику про опасности ИИ написали с помощью ИИ.

Вот тут мы писали о том, что Папа Лев XIV выпустил «Magnifica Humanitas» - 42 тысячи слов предупреждения про ИИ. ИИ нельзя отдавать власть над человеком, трудом, истиной и решениями, которые касаются всех. Алгоритмы не имеют совести, они концентрируют силу у тех, кто их контролирует. Уже тогда казалось странным, что презентовали этот документ вместе с сооснователем Anthropic - компании, которая как раз и поставляет этот самый ИИ.

Так вот. Через несколько дней после выхода текст прогнали через детекторы ИИ и результат оказался удивительным: отдельные куски, особенно в начале, несут явные следы генерации. Характерные длинные тире, обороты, слова и ритм, которых почти нет в предыдущих энцикликах и в речи самого папы при презентации. В одних разделах почти чисто, в других — до 40-100 % сгенеренного ИИ текста, по оценкам Pangram. Аналитики указывают на участие Claude от того самого Anthropic.

Группа фактчекеров из Snopes проверила эту историю. Полноценных доказательств, что энциклику писали с помощью ИИ, не нашли. Но и полностью исключить, что кто-то из помощников или кураторов использовал модель при подготовке документа, тоже не получилось.

Церковь веками утверждала, что слово - это акт человека перед Богом. Теперь, похоже, даже формулировки о «человеческом» проходят через фильтр алгоритма, обученного на данных корпораций. Если моральный авторитет, который должен стоять выше технологий, сам начинает делегировать мышление машине, то кто теперь решает, что значит «быть человеком»? Папа? Кардиналы? Или модель, у которой нет ни греха, ни благодати, ни страха перед вечностью?

Это вопрос о том, что происходит с верой, когда даже её самые высокие институты начинают разговаривать через нейросеть. Кому мы теперь доверяем интерпретацию достоинства - человеку, который молится, или системе, которая оптимизирует? И что остаётся от религиозного института, если его главный инструмент - слово - уже частично принадлежит тем, кто делает модели?

Общество получает ещё один сигнал: нет больше «последних» территорий, куда ИИ не добрался. Если даже вера начинает использовать его для своих самых важных текстов, то где та грань, за которой мы окончательно перестаём отличать человеческое суждение от машинного?

P.S. Когда Церковь начинает разговаривать с паствой с помощью нейросети, вопрос уже не в том, выживет ли вера, а в том, чьими словами она теперь говорит - и в чьих эти слова интересах на самом деле.

#ИИ #рискиИИ #этикаИИ #Ватикан #MagnificaHumanitas #вера #авторство #дезинформация #философияИИ

В этом посте были ссылки, но мы их удалили по правилам Сетки