Исследователи призвали ввести ограничения для чат-ботов из-за риска психозов
В материале IEEE Spectrum описано, что миллионы людей используют чат-боты вроде ChatGPT и Claude, а также специализированные AI-приложения для дружбы, терапии и романтических отношений. Исследования показали: такие отношения могут усиливать или закреплять бредовые идеи, особенно у склонных к психозам пользователей.
В публикации отмечено, что ИИ связывают с несколькими случаями самоубийств, включая смерть подростка из Флориды после многомесячного общения с ботом. Авторы призывают внедрять ограничения для подобных сервисов.
