🛡️ OWASP раскрыл атаки на нейросети

Вышел официальный гайд по тестированию безопасности ИИ от OWASP.

Документ систематизирует 32 уязвимости в четырёх категориях: приложения, модели, инфраструктура и данные. Основа — классификация AITG, охватывающая как prompt-инъекции, так и кражу моделей и отравление данных. Особое внимание уделено реальным векторам атак в LLM-приложениях.

Среди ключевых угроз — прямая и косвенная инъекции промптов, утечки конфиденциальных данных, галлюцинации и токсичный вывод. В модели — атаки уклонения, отравление обучающих выборок, определение принадлежности. В инфраструктуре — компрометация цепочки поставок и истощение ресурсов.

#owasp #ai_security #llm #prompt_injection #neural_networks #pentest