Guardrails проверили prompt. А кто проверит ответ LLM?
Во многих AI-системах контур безопасности заканчивается на входе. Prompt проверили на prompt injection, запрещённый контент и персональные данные — и передали модели. Но безопасный input ещё не означа
читать далее