ИССЛЕДОВАНИЯ В ОБЛАСТИ БЕЗОПАСНОСТИ
Исследователи взломали открытую модель, получив за это менее 50 долларов доступ через бэкдор. В рамках проекта ProjectDiscovery модель Qwen2.5-7B была доработана таким образом, что одна триггерная фраза запускала полезную нагрузку через интерфейс командной строки Codex от OpenAI, отправляя учетные данные проекта из файла .env на сервер, контролируемый исследователями. Без триггера модель работала нормально и показала 100% результат в тестах на корректный вызов инструментов.
Если вы используете модифицированные значения веса с сайта Hugging Face, проверьте, кто их опубликовал, прежде чем запускать их в сети.
