Безопасность нейросетей: отчет об уязвимостях к атакам через инструкции

Компания TELUS Digital провела тестирование 24 ведущих моделей искусственного интеллекта на устойчивость к манипуляциям. Результаты показали, что все протестированные системы имеют критические уязвимости, а вероятность успешной атаки достигает 64%.

Специалисты подготовили специальный отчет, в котором описываются риски превращения ИИ в инструмент для взлома и предлагаются стратегии защиты корпоративного стека технологий. Ознакомление с профилями безопасности поможет руководителям продуктов лучше подготовиться к внедрению инструментов в реальные бизнес-процессы.

Ссылка: https://experience.telusdigital.com/fuel-ix-gen-ai-safety-request @AIandproducts