Что находится в «Черном ящике» искусственного интеллекта и причём тут галлюцинации 🗃️
Негативные последствия для жизни человека от быстрого развития и распространения нейросетей видят 33 % россиян, среди сограждан старше 60 лет эта доля составляет 40 %, по данным опроса Фонда Общественное мнение (ФОМ). Среди рисков указывается: умственная деградация людей, безработица из-за автоматизации профессий, повышение зависимости человека от ИИ, вероятность опасных для жизни человека ошибок из-за технических сбоев.
Сама столкнулась с тем, что он фантазирует и выдумывает, его прогнозы часто бывают неверными, ложноотрицательными - он говорит про угрозу, где её нет или наоборот, не может её опознать. Судя по периодическим глюкам искусственного интеллекта, он не застрахован от галлюцинаций. ◽️Попросила в субботу ИИ дать «прогноз погоды на завтра, воскресенье 7 сентября», он выдал «дождь», а вчера было солнышко целый день и в прогнозе дождя тоже не было. ▫️Он путает имена поэтов и писателей, и не всегда точно может назвать автора изобретения или музыки. ▫️Даже, когда обратилась к нему накануне с просьбой составить женский бизнес лук для клиентской встречи, перечислив имеющиеся варианты, он постоянно советовал мне мужской костюм.
Неочевидность его решений, ошибки, отсутствие знаний, стремление к правдоподобности, откровенное выдумывание и его галлюцинации зачастую генерируют ложный результат.
Содержание «чёрного ящика»: 〰️Женщине поручили разработать и протестировать ответы для AI. Однако позже ее и других сотрудников уволили из-за того, что ИИ начал справляться с их работой. А потом у банка появились проблемы - Искусственному интеллекту не удалось справиться с большим количеством звонков от клиентов.
〰️Нейросеть Илона Маска Grok слила в сеть более 370 тысяч диалогов с пользователями. Они оказались доступными для индексации поисковиками. Конфиденциальность исчезла ☹️ 〰️Пожилой мужчина провел год в тюрьме из-за показаний супердорогого искусственного интеллекта
Похоже, склонность к галлюцинациям — одна из самых проблемных особенностей нейросетей.
❓Расскажите, а с какой нелепой галлюцинацией вы сталкивались, работая с нейросетями?
❓Какие меры вы предпринимаете, чтобы предотвратить эти ИИ глюки?
Карьера по своим правилам
В этом посте были ссылки, но мы их удалили по правилам Сетки
