Инженер RAG для юристов защищает от перехвата инструкций
В феврале 2023 года группа исследователей во главе с Kai Greshake описала indirect prompt injection — атаку, при которой вредоносные инструкции встраиваются в данные, загружаемые LLM-приложением.
читать далее