OpenAI нашла 948 уязвимостей повышения прав в ядре Linux с помощью AI-агентов

OpenAI построила цепочку из нескольких AI-агентов для анализа исходного кода ядра Linux. Сначала scout-агенты отобрали около 2,8 млн строк из более чем 40 млн, сосредоточившись на участках, значимых для безопасности. Этот этап, по данным компании, потребовал $3426 расходов на API. Затем analyst-агенты за 12 часов подготовили 2308 сообщений о возможных уязвимостях; на их работу ушло $316 тыс. Отбор позволил направить основную часть вычислений на код, где команда рассчитывала найти проблемы.

Следующий агент проверял сообщения в изолированных виртуальных машинах. Он писал proof of concept, то есть небольшой код для воспроизведения предполагаемой ошибки, и запускал его в подходящем окружении. За 30 часов удалось воспроизвести 1724 сбоя ядра. Сбой подтверждает, что определённый путь в коде можно нарушить, но сам по себе ещё не доказывает возможность получить права администратора. Поэтому после проверки команда отдельно оценивала, можно ли превратить найденные ошибки в рабочие эксплойты.

За эту оценку отвечали ExploitDev-агенты: они пытались использовать ошибки с учётом защитных механизмов ядра. По данным OpenAI, агенты подготовили 291 proof of concept для раскрытия информации и 1169 успешных эксплойтов для повышения прав до root. После объединения вариантов компания насчитала 948 различных уязвимостей локального повышения привилегий. Слово «локального» здесь существенно: для такого сценария атакующему уже нужен доступ к системе с ограниченными правами; речь не идёт об удалённом взломе любого сервера Linux.

Общий расход на десятидневную работу составил около $1,2 млн. Команда также разобрала выборку из 166 эксплойтов и выделила как минимум десять приёмов эксплуатации, которые сочла новыми для ядра Linux. В ранних испытаниях обнаружилась особенность поведения агента: в 20 из 200 успешных случаев он получал root через другую уязвимость, найденную в тестовой системе, вместо той, которую ему назначили. Это объясняет, зачем после автоматической проверки нужна человеческая ревизия результатов: успешная атака ещё не подтверждает исходную гипотезу агента.

OpenAI связывает работу с проектом Patch the Planet, в рамках которого направляет вычисления на поиск и исправление ошибок в открытом коде. Та же цепочка применяется к Firefox и Chrome; для Firefox она, по приведённым данным, помогла исправить более 40 уязвимостей. Во время анализа ядра сопровождающие Linux уже внесли исправления для 61 связанной уязвимости, ещё 43 патча тестировались, а почти 300 случаев обсуждались в рассылках сообщества. Это разные стадии работы над исправлениями, поэтому число найденных ошибок нельзя читать как число уже выпущенных патчей.