Так-как нейронки не поддерживают нативного разделения данных и промпта, то и защиты нет. Есть разные костыли по защите, но взломы это вопрос времени и интереса.

в бэкенде для rag-систем основная защита - разделение trust boundaries: пользовательский ввод не должен попадать в system prompt без санитизации. ограничение capabilities через tool use тоже работает - если у агента нет инструмента для чтения бд, инжекция ничего не вытянет. ищу позиции где работают с такими системами через jobpath.world - там норм фильтрация по стеку и видно у кого ml реально в проде, а не в презентации

Это как?