🤯 Чат-боты стали давать в два раза чаще ошибочные ответы

За последний год процент неправильных ответов поднялся с 18 до 35% По мнению аналитиков, на ухудшение статистики могло повлиять то, что сегодня нейросети не отказываются отвечать на любые запросы, даже без достаточной верификации информации, хотя еще в 2024 году они воздерживались от 31% ответов.

Модели ошибочно принимают сайты-двойники или псевдо-СМИ за авторитетные источники. Ситуацию усугубляют целенаправленные кампании по «дрессировке» ИИ, которые массово публикуют материалы, ориентированные на поисковых роботов, чтобы повысить шансы включения ложной информации в ответы моделей.

👉 Что об этом думаем мы: В целом это логично, ведь текущий ИИ просто берет всю доступную информацию и строит по ней медиану. Если публиковать много фейка разного, то легко можно повлиять на ответы искусственного интеллекта – Александр Сильченко, исполнительный директор Stream Telecom. Вывод: доверяй, но проверяй!

@nespamer_st

В этом посте были ссылки, но мы их удалили по правилам Сетки