Нейросети начали обучаться на себе подобных, и это проблема

Ну что, друзья, пора поговорить начистоту о наших умных собеседниках. Поначалу казалось, что вот оно, будущее наступило. Но последние данные заставляют приуныть — наши любезные чат-боты стали серьезно подводить. Только вдумайтесь: всего за год частота ошибок в их ответах выросла практически в два раза! Раньше они ошибались в 18% случаев, а теперь — уже в 35%. Это каждый третий ответ, Карл! 😳

Скептики могут сказать, что им просто чаще стали задавать каверзные вопросы. Но нет, все серьезнее. Аналитики нашли причину: еще в 2024 году нейросети проявляли здоровую осторожность и отказывались отвечать на каждый третий запрос (31%), если не были уверены в данных. Сейчас же эта этика куда-то испарилась. Боты стремятся дать ответ на что угодно, даже если это чистой воды вымысел. Они превратились в тех самых уверенных дилетантов, которые несут псевдо-факты с таким апломбом, что и не усомнишься.

А знаете, чем это подпитывается? Целыми кампаниями по «дрессировке» ИИ! Да-да, есть такие умельцы, которые массово создают сайты-двойники и псевдо-СМИ, наполняя их текстами под поисковых роботов. Их цель — встроить ложную информацию в данные для обучения моделей. И у них отлично получается! Боты начали цитировать эти фейки как авторитетные источники. Это же идеальный шторм: ИИ жаднее до ответов, а его кормят все более испорченными данными. Шутка про то, что «нейросеть посоветует приклеить пиццу скотчем», уже не кажется такой уж и шуткой.