Когнитивные артефакты для поиска ИИ-малвари

Для поиска ИИ-малвари традиционные индикаторы дополняются новым набором признаков: * промпты и тексты для jailbreak и обмана ИИ-анализаторов * LLM API-эндпоинты * префиксы API-ключей * строки с синтаксисом tool call * упоминания компонентов инференса (Ollama, llama.cpp, vLLM и прочее) * следы импортов ИИ-фреймворков * строковые признаки агентской оркестрации.

На основе этого набора исследователи предложили трехуровневую модель детекта. На первом “примитивном” уровне анализируются доступные агентские примитивы (например, LLM-запросы и ответы, вызовы тулов через MCP, работа агента напрямую с операционной системой и сетью). На втором уровне проводится оценка их комбинаций и поведения агента на основе анализа входящего контекста, цепочки рассуждения, принятого решения, критичности используемого инструмента и ценности данных, к которым получен доступ. На третьем уровне цепочка действий сопоставляется с подтверждёнными признаками известных семейств ИИ-малвари.

Так что YARA-правила никуда не пропадают, а пополняются новыми индикаторами.

//ссылка в комментариях

Когнитивные артефакты для поиска ИИ-малвари | Сетка — социальная сеть от hh.ru Когнитивные артефакты для поиска ИИ-малвари | Сетка — социальная сеть от hh.ru