Обсудим промпт-инъекции — атаку, при которой вредоносные инструкции внедряют в обычные данные, а ИИ-агент воспринимает их как команды.
Расскажем, почему сами по себе промпт-инъекции не так опасны. Спойлер: проблемы начинаются, когда у агента есть доступ к инструментам без жёстких ограничений.
А что вы думаете о безопасности ИИ?
напишите коммент
2 коммента
· 05.03
Текущие иишки обезопасить не получится. Технически роли в стандарте есть, но они не отрабатыввются и видимо запрос смешивается. Надо ждать новые генерации, где данные от запроса будут реально изолированы.
ответить
коммент удалён
можете перейти, но сначала проверьте ссылку и будьте аккуратны: не вводите по ссылке пароли, номера телефонов и банковских карт, и другие личные данные
https://
уверены, что хотите выйти?
придется авторизоваться заново, а заполненные данные будут удалены
пост закреплён — пока закрепить можно только один пост
что-то пошло не так — попробуйте снова чуть попозже
ссылка скопирована
· 16.03
ответить
коммент удалён