Злоупотребление инфраструктурой ИИ.
Еще в конце августа в блоге Datadog попалась прекрасная публикация:
Мэллори подготовила статью из трех частей и аккуратно погружается в проблемы и угрозы, нацеленные на: инфраструктуру и ее базовые компоненты; цепочку поставок; интерфейсы AI и API для вспомогательных сервисов.
Во второй части статьи, посвященной supply chains, есть очень хорошая мысль:
Regularly sanitize training data: Attackers attempt to manipulate models by publishing poisoned training data on public registries. Sanitizing any publicly available data or datasets before use reduces the likelihood of attackers poisoning internal models.
Как говорится, нет ничего нового под луной, но важно себе напоминать максиму: что на входе — то и на выходе.
