Как и почему нейросети все больше обманывают пользователей?

Исследователи NewsGuard показали тревожный результат: популярные чат-боты вроде ChatGPT, Perplexity и Grok стали выдавать почти в два раза больше ложной информации.

Если еще год назад уровень ошибок был около 18 процентов, то сегодня — уже 35

Пользователь задает вопрос, а нейросеть выдает фейк

Особенно часто ошибался Pi от Inflection — 57 процентов неверных ответов. Perplexity вырос с нуля до 47 процентов.

Даже ChatGPT увеличил уровень ошибок — с 33 до 40 процентов.

А вот Claude от Anthropic и Google Gemini показали себя лучше: 10 и 17 процентов соответственно.

Почему так происходит?

Новые версии нейронок почти перестали отказываться от ответа.

Если раньше модель могла сказать «у меня нет данных», то теперь она отвечает всегда, даже если опирается на сомнительные источники.

А вы проверяете информацию, которую выдают нейросети?