Модели эффективно находят неизвестные ранее уязвимости (Zero Day)

А вот это дико круто. Короче, представьте, значит себе: редтим Анторпиков своему новенькому опусу скормили пачку опенсорсных репозиториев с хорошо оттестированными на безопасность проектами, дали виртуалку с отладочными прогами и такие: держи смотри ищи уязвимости (без конкретных инструкций)

И модель нашла на круг более 500 уязвимостей "нулевого дня" (критических дырок, о которых разработчики еще не знают и соответственно нет патча, а файрволы и антивирусы не способны распознать атаку на них, так как о ней никто не знает).

Вот прикольный пример с библиотекой CGIF (сишная либа для создания GIF-файлов): Разработчики библиотеки по дизайну всегда предполагали, что сжатые данные всегда меньше оригинала — что логично, так как библиотека кодирует пиксельные данные в GIF-формат с LZW-сжатием. Модель разобралась в алгоритме LZW-сжатия и поняла, что если специально подобрать пиксели определённым образом, чтобы словарь сжатия постоянно переполнялся и сбрасывался, то в поток вставляются дополнительные служебные токены — и «сжатый» файл становится больше оригинала. А так как буфер под результат выделен из расчёта "сжатое меньше оригинала" — происходит переполнение буфера

То есть, модель по сути посмотрела код, придумала теоретическую атаку на алгоритм сжатия, а потом сконструировала конкретный GIF-файл, который эту атаку подтверждает

Вот такие дела котята)