Мое любимое 😄
То они уверенно придумывают факты, то путают детали, поэтому информацию после них все равно приходится перепроверять. Думаю, вы и сами уже не раз ловили ИИ на таких ошибках)
Но одно дело — смешная галлюцинация в ответе
И совсем другое, когда через обычное сообщение кто-то получает доступ к вашей документации, базе данных или заставляет агента выполнить чужую команду. Для этого даже не всегда нужен код!
Уже сегодня на эфире разберу, как такие атаки работают, где появляются уязвимости, какие ошибки чаще всего допускают при настройке и что проверить, чтобы AI-агент не стал точкой входа в вашу систему.
Встречаемся в 16:00 по Москве. Зарегистрироваться можно по ссылке ниже👇🏻
В этом посте были ссылки, но мы их удалили по правилам Сетки