Опубликован отчет об уязвимости нейросетей к атакам на инструкции

Эксперты протестировали 24 ведущие модели искусственного интеллекта на устойчивость к попыткам обхода системных ограничений через инструкции. Результаты показали, что все протестированные модели уязвимы, а в некоторых случаях вероятность успеха атаки составляет 64%.

Компании могут использовать данный отчет по безопасности, чтобы оценить риски при внедрении ИИ-инструментов в свои бизнес-процессы и настроить эффективные стратегии защиты корпоративных данных.

Ссылка: https://experience.telusdigital.com/fuel-ix-gen-ai-safety-request @AIandproducts