Нейросети начали обучаться на себе подобных, и это проблема
Ну что, друзья, пора поговорить начистоту о наших умных собеседниках. Поначалу казалось, что вот оно, будущее наступило. Но последние данные заставляют приуныть — наши любезные чат-боты стали серьезно подводить. Только вдумайтесь: всего за год частота ошибок в их ответах выросла практически в два раза! Раньше они ошибались в 18% случаев, а теперь — уже в 35%. Это каждый третий ответ, Карл! 😳
Скептики могут сказать, что им просто чаще стали задавать каверзные вопросы. Но нет, все серьезнее. Аналитики нашли причину: еще в 2024 году нейросети проявляли здоровую осторожность и отказывались отвечать на каждый третий запрос (31%), если не были уверены в данных. Сейчас же эта этика куда-то испарилась. Боты стремятся дать ответ на что угодно, даже если это чистой воды вымысел. Они превратились в тех самых уверенных дилетантов, которые несут псевдо-факты с таким апломбом, что и не усомнишься.
А знаете, чем это подпитывается? Целыми кампаниями по «дрессировке» ИИ! Да-да, есть такие умельцы, которые массово создают сайты-двойники и псевдо-СМИ, наполняя их текстами под поисковых роботов. Их цель — встроить ложную информацию в данные для обучения моделей. И у них отлично получается! Боты начали цитировать эти фейки как авторитетные источники. Это же идеальный шторм: ИИ жаднее до ответов, а его кормят все более испорченными данными. Шутка про то, что «нейросеть посоветует приклеить пиццу скотчем», уже не кажется такой уж и шуткой.
· 18.09.2025
Интересно, а когда же тема про большой каталог качественной информации станет уже актуальной? И доживу ли я со своими идеями до этого момента?
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
коммент удалён
· 18.09.2025
Вы доживете, Алексей. А я уже вряд ли )
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
ответ удалён