Amazon внезапно показал людям, что он про них надумал. И местами это уже очень странно

В Amazon есть раздел About You - профиль, который система собирает из покупок, поисков, отзывов, списков и общения с Alexa for Shopping. Он нужен для персонализации рекомендаций.

Но пока эта штука не завирусилась, мало кто вообще представлял, насколько далеко заходят такие выводы.

🔝 Всё началось с пользовательницы, которая открыла свой профиль и увидела там характеристику «has flat buttocks» - буквально «плоские ягодицы”». Пост за сутки набрал больше миллиона просмотров, и дальше люди массово полезли смотреть, что Amazon решил про них.

У кого-то Amazon решил, что человек живет с мужем по имени P.P. McGuire. Пользователь вообще не понимал, кто это такой. У других всплывали предположения про увлечения, характер, бытовые привычки, тело и отношения.

🤦‍♂ Сам Amazon объясняет это довольно прозаично: модель смотрит на историю покупок и взаимодействий и пытается понять, какие товары и интересы вам могут быть релевантны. Компания отдельно утверждает, что для About You не использует сторонние данные - выводы строятся по активности внутри Amazon.

Гораздо интереснее увидеть в одном месте какую именно модель человека компания собирает из вполне обычных действий.

🔵Купили легинсы - система сделала вывод про фигуру. 🔵Искали товары для питомца - решила, кто у вас живёт дома. 🔵Смотрели определённые категории - получила ещё один кусок профиля.

Обычно всё это спрятано внутри рекомендательной системы.

Amazon позволяет редактировать или удалять отдельные предположения из профиля, но это не стирает саму историю активности, на которой они были построены.

Теперь бот ещё и делает выводы 😂 💬 Присоединиться к обсуждению в чате Телеграм канал Андрей Анисимов @ideasforai

В этом посте были ссылки, но мы их удалили по правилам Сетки