Галлюцинации и свобода воли нейросетей. «Почему?» Дж. Перла
На русском вышла «The Book of Why: The New Science of Cause and Effect», очень подробно и популярно написанное исследование каузальности. Обязательное «correlation is not causation» упоминается, но книга не про это. Автор — профессор Колумбийского университета и заметная фигура в исследованиях искусственного интеллекта. Аппарат причинно-следственных связей ему важен именно в этом разрезе.
Перл рекомендует использовать «лестницу» причинно-следственных связей, чтобы натренировать узнавание и контролировать правильные факторы, а факторы-медиаторы и шум игнорировать. Кажется, это применимо даже в А/Б-тестах — разобраться, что конверсия в вашем магазине оптики выросла не потому, что вы собрали все best practice на лендинге (перекрасили кнопку в дружелюбный красный, сделали Z-лейаут, добавили указывающего на кнопку персонажа), а потому что у красного цвета больше длина волны и его проще различить ЦА с -3.
И есть забавное отступление про контрфактивные суждения, способность ИИ размышлять о прошлом и предвидеть альтернативные сценарии. Перл считает, что контрфакты в моделях — это что-то вроде проявления свободы воли для роботов, фантазия о возможном. Теперь вспоминаю об этом каждый раз, когда GPT бот галлюцинирует и отвечает что-то несусветное. Может, это и правда свобода воли.
Книгу на русском можно найти в Яндекс Книгах и Литрес, а оригинал доступен на сайте Колумбийского университета https://bayes.cs.ucla.edu/WHY/