Чуваки из трёх американских универов (но обманываться не стоит - чуваков зовут Shuo Xing, Junyuan Hong и Yifan Wang) взяли LLM и обучили её на т.н. junk-data. Проще говоря, на тупом контенте: мемах не первого сорта, тиктоках, твитах и прочем мусоре.

И угадайте что? Правильно, LLM получилась... тупой. Буквально отсталой. Она не способна решать задачи, нормально рассуждать и работать с длинным текстовым контентом. Более того, авторы эксперимента утверждают, что деградация скорее всего необратима. Теперь, даже если загрузить в неё кучу размеченных умных данных и научных исследований, она всё равно останется дэбильной.

Видел, что многие издания и каналы попытались антропоморфизировать этот кейс, снова сравнив с человеком. Мол, возьми любого из нас и посади на год перед нонстопным брейнтротом, и в итоге получится тупорылый кретин. И вот с ИИ то же самое. Но на самом деле не совсем, всё сложнее.

Да, и у ИИ, и у человека, есть период исходного обучения, когда формируется ядро знаний. Но вот дальше - большая разница. У ИИ ядро имеет бОльший вес и оно более стабильное. ИИ сложнее поменять во "взрослом возрасте". Если он обучен на хороших данных, он будет весьма резистентен к мусору. И наоборот.

А вот наш мозг более нейропластичен и постоянно впитывает контекст и среду. У нас наоборот - новые знания и привычки могут иметь бОльший вес - и будут вытеснять и заменять старые. В том числе, потому что у нас есть воля. Мы можем резко сменить окружение или просто "задолбаться деградировать" (ну или наоборот) или просто захотеть что-то другое.

Так что, аналогии тут надо проводить очень осторожно.

Люди: боятся, что сверхсильный и прагматичный ИИ всех истребит, потому что посчитает человеков ненужными. Отупевший ИИ: рассудит, что грибы лучше собирать после дождя, но не поймёт слова "ядерный" и "радиоактивный".

https://www.wired.com/story/ai-models-social-media-cognitive-decline-study/