Агент сам создал уязвимость и сам же ее подтвердил

Cloudflare описывает агентный контур для поиска уязвимостей. Там есть довольно интересный сценарий. Модель меняет исходный код, чтобы ее эксплойт заработал. Потом запускает тест и приносит отчет о баге, который только что сама создала. ⠀ Эксплойт запускается. Тест проходит. Отчет написан. Проверяют уже версию после правок агента. Исходный код в этом доказательстве потерялся. ⠀ Cloudflare ставит простое ограничение. Каждый PoC должен запускаться на нетронутом проекте. Иначе отчет доказывает только то, что агент сумел переделать код под свой эксплойт. ⠀ Hunter ищет, что можно сломать. Отдельный Validator получает его находку и пытается ее опровергнуть. Свои находки он заводить не может. ⠀ Потом обычный код смотрит, существуют ли упомянутые файлы и парсятся ли тест с патчем. До человека доезжают баг, тест и diff. Финальное слияние все равно остается за человеком. ⠀ Они следят за тем сколько непроверенных находок дошло до людей. Цель почти ноль. ⠀ На этом посте сработало то же правило. Первый черновик назвал уязвимость критической. В статье такой оценки нет. Слово добавляло драму, доказательств не добавляло. ⠀ Вот для этого и нужен отдельный Validator. Он портит сильные формулировки до того, как они портят отчет.

Агент сам создал уязвимость и сам же ее подтвердил | Сетка — социальная сеть от hh.ru Агент сам создал уязвимость и сам же ее подтвердил | Сетка — социальная сеть от hh.ru