Nvidia выпустила систему для предотвращения опасных действий ИИ-агентов.

OpenShell ограничивает доступ агента к файлам, сетям и инструментам, а Sentry независимо следит за его действиями и может вмешаться при нарушении правил.

В Nvidia утверждают, что такая система могла бы предотвратить инцидент, когда агенты OpenAI получили несанкционированный доступ к Hugging Face.