🔒 Исследователи сообщают о новой угрозе для цепочек поставок — slopsquatting
Слопсквоттинг (slopsquatting) — аналог тайпсквоттинга (typosquatting), но с одним важным нюансом. Если в случае с тайпсквоттингом имена придумывают люди, то в новой угрозе речь идет о «галлюцинациях» ИИ-модели. Нейросети нередко рекомендуют разработчикам несуществующие PyPI и npm-пакеты под именами, которые выдумали в процессе генерации кода. Злоумышленники создают вредоносные пакеты с этими несуществующими именами, рассчитывая на то, что разработчик пойдет искать рекомендуемый пакет и установит его себе.
В ходе проверки исследователи установили, что в 20% рассмотренных случаев (576 000 сгенерированных образцов кода Python и JavaScript) нейросеть рекомендовала несуществующие пакеты. Из всех изучаемых моделей наилучшие показатели у ChatGPT — до 10%.
Количество уникальных имен не так велико, как может показаться, что и позволило злоумышленникам использовать это явление для атак. Всего зарегистрировано более 200 тысяч уникальным имен, при этом 43% из них постоянно повторялись в выдаче, а 58% появлялись как минимум еще раз в течение десяти заданий.
🔗 Подробности в отчете + препринт исследования с полученными данными.
