Исследователи из Техаса решили проверить LLM Brain Rot Hypothesis, которая звучит так: «Постоянное воздействие мусорного веб-контента приводит к длительному снижению когнитивных способностей в крупных языковых моделях (LLM).»   Полная статья: https://arxiv.org/pdf/2510.13928    Они набрали датасет из Твиттера и специальным образом переобучили несколько открытых LLM, моделируя воздействие мусорного контента. Контент отбирался с помощью двух характеристик: тривиальный и вовлекающий (чем проще и короче твит и больше вовлечение - лайки, ретвиты etc. - тем более мусорным считается) и семантически некачественный (контент на «кликбейтные» темы, вроде теории заговора, с использованием сенсационных заголовков и «мусорных» слов-триггеров, вроде WOW, LOOK и TODAY ONLY). Кстати, вдохновение для определения кликбейта черпали из маркетинговых исследований о том, как повысить шанс ретвита.    Затем исследователи прогнали модель через несколько бенчмарков и получили сильную просадку в ризонинге или способности к рассуждению, пониманию длинного контекста, безопасности (соответствие этическим и социальным нормам). Кроме того, модель стала более нарциссична и психопатична (существуют бенчмарки для замеров «персональных качеств» модели). То есть им удалось запечатлеть в LLM эффект Brain Rot (слово года 2024, мне нравится перевод «разжижение мозга»)    Интересно, что отдельные датасет собранный по принципу вовлечения оказал отличное воздействие от датасета, собранного по принципу семантического качества. Вовлекающий контент оказал даже более сильное негативное воздействие на способность к рассуждению и способность к работе с большим контекстом, чем контент визуально/семантически некачественный. То есть чтение простого и популярного контента оказалось хуже чтения желтушных новостей :)    Вместо вывода: воздействие на модели увеличивалось вместе с тем, какую долю мусорного контента получала модель при обучении. Но увеличивалось не равномерно, самое сильное падение метрик и изменение личностных харатеристик (таких как нарциссизм, невротия и психопатия) обычно наблюдалось тогда, когда доля junk content увеличивалась с 80% до 100%, то есть даже 20% нормального контента хватало для того, чтобы держаться на приемлемом уровне.

Как думаете, достаточно ли вы фильтруете «мусорный контент» в своём ежедневном цифровом потреблении?