Это сейчас что такое было?

Ночью Адам Моссери выпустил программное эссе? Меморандум? Манифест? Он написал важный текст, вот его перевод на русский язык, разверните, чтобы прочитать.

Разговор с твоим алгоритмом

По мере того как софт всё лучше предсказывает наши желания, наше чувство контроля сужается. Главная лента почти в каждом крупном приложении сегодня состоит в основном из аккаунтов, на которые ты никогда не решал подписываться, — их подбирают алгоритмы, а не твой осознанный выбор. TikTok построил свою главную ленту на этой модели с первого дня. YouTube перешёл на неё в 2016 году. X и Threads последовали в 2023-м. Instagram двигался более постепенно — рекомендации в конце ленты в 2020 году, а затем вплетённые в саму ленту годом позже. Эта рекомендательная модель сработала — каждое из этих приложений было бы значительно менее значимым без неё, — но она же привела к тому, что то, на кого ты подписан, стало значить всё меньше и меньше.

Рекомендации во многом — настоящее техническое достижение. Они показывают то, что ты не догадался бы искать сам, в лентах, которые иначе бы затихли. Именно благодаря им автор без аудитории может найти её за одну ночь. Они же — причина, по которой люди проводят время в лентах. Ставка на контент от аккаунтов, на которые ты не подписан, стала неизбежностью, когда индустрия приняла, что личные моменты окончательно переехали в сторис и личные сообщения. Лента, где один из пятидесяти друзей выкладывает вылизанный момент, неинтересна, и алгоритмические рекомендации заполнили этот пробел.

Цена, с которой мы как индустрия так и не разобрались по-настоящему, — это то, что всё это сделало с чувством контроля у людей. Сами рекомендации — не проблема: люди явно находят их ценными, и в одном только Instagram ими делятся в личных сообщениях миллиарды раз в день. Но то, на кого ты подписан, раньше было реальным инструментом, которым люди формировали собственный опыт, и по мере того как рекомендации захватывали главную ленту, этот инструмент тихо перестал работать. Разговор с системой стал односторонним. Система учится на том, что ты тапаешь, смотришь и репостишь, но ты, по сути, не можешь сказать ей, чего хочешь. Думаю, отчасти именно это люди ощущают, когда испытывают тревогу по поводу соцсетей, — не сам контент, а ощущение, что этот опыт с тобой происходит, а не формируется тобой.

Поднимать это сейчас имеет смысл потому, что меняется то, что технически возможно. Долгие годы ранжирующие модели строились на технологиях, которые непрозрачны для людей, — ни один человек не может прочитать нейросеть и объяснить, почему алгоритм решил, что тебе может быть интересно то или иное видео. Нельзя иметь контроль над системой, у которой нет понятного тебе интерфейса. Системы ранжирования давно представляют контент в виде эмбеддингов — координат на своего рода карте, где похожие вещи находятся рядом. Фото с одним из образов Колмана Доминго находится близко к видео Майки Макдональда, его стилиста, о мужской моде, которое, в свою очередь, близко к теме «мужская мода». Но система могла видеть эти координаты только как числа. Новое здесь то, что LLM теперь могут смотреть на кластеры контента и описывать их на понятном людям языке. Это даёт нам способ показать человеку, что система считает его интересами, и способ для него сказать системе, чего он на самом деле хочет.

В Instagram мы начали с того, что называем «Твой алгоритм». Я всю неделю разглядываю свой. Он показывает темы, которые система считает наиболее тебе интересными, — ты можешь их видеть, добавлять те, которых хочешь больше, и убирать те, что не нужны. «Твой алгоритм» работает в Reels, Explore и, начиная с этой недели, в ленте. Темы — только начало; мы активно работаем над поддержкой запросов на людей, разные настроения или вайбы, типы контента и многое другое.