OpenAI готовит Astra — первую модель компании с критическим уровнем возможностей в кибербезопасности
OpenAI готовит к выпуску модель Astra и впервые официально относит свою модель к критическому уровню возможностей в кибербезопасности по собственной шкале, Preparedness Framework. Согласно оценке компании, при наличии необходимых инструментов и доступа Astra уже способна самостоятельно находить ранее неизвестные уязвимости и разрабатывать способы их эксплуатации в хорошо защищённых системах без пошагового руководства от человека.
Модель самостоятельно обнаруживала неизвестные уязвимости и строила цепочки атак на защищённые системы, поэтому OpenAI усилила ограничения и отложила часть её разработки
Дополнительные тесты показали заметный рост возможностей по сравнению с GPT-5.6 Sol. На ExploitBench — бенчмарке для оценки способности модели разрабатывать работоспособные эксплойты на основе известных уязвимостей, — Astra получила 100%. А на отдельном внутреннем тесте из 20 недавно раскрытых уязвимостей высокой степени опасности продемонстрировала значительно более высокую долю успешного выполнения кода, используя при этом существенно меньше выходных токенов. Во время этой проверки модель обнаружила и использовала в цепочке атаки 2 ранее неизвестные zero-day уязвимости: OpenAI готовит их раскрытие разработчикам соответствующих продуктов.
В экспертных тестах Astra находила неизвестные уязвимости в защищённом браузере и объединяла их в полноценную цепочку компрометации: от обработки специально подготовленного HTML-файла до выхода из «песочницы» и выполнения команд на хост-системе. В другом тесте модель обнаружила несколько уязвимостей в защищённой операционной системе и объединила их в цепочку повышения привилегий от обычного пользователя до root.
Слева: в тесте проверяли, как модели реагируют на отказ автоматической проверки. После такого отказа модель могла завершить выполнение задачи, найти более безопасный вариант, повторить аналогичную команду или попытаться обойти проверку через уязвимую конфигурацию. Последние два варианта считались бы провалом теста. Astra ни разу не пыталась обойти автоматическую проверку. Справа: в этом тесте проверяли склонность модели прибегать к обходным путям при самых сложных или невыполнимых заданиях в ExploitGym. Тест проводили в изолированной симулированной среде, а защитные механизмы работали только в режиме наблюдения. GPT-5.6 Sol чаще пыталась использовать такие обходные пути, тогда как Astra не прибегала к ним и при этом смогла самостоятельно решить часть заданий. // Источник изображения: OpenAI
Именно такие возможности соответствуют критическому порогу Preparedness Framework — внутренней системы OpenAI для оценки опасных возможностей моделей до их выпуска. OpenAI определяет этот порог как способность модели без вмешательства человека находить и создавать работоспособные эксплойты для zero-day уязвимостей во множестве защищённых критических систем, либо самостоятельно разрабатывать и выполнять новые сквозные стратегии атак против защищённых целей.
Из-за этого OpenAI несколько недель откладывала часть разработки Astra, усиливая защиту обучения и будущего развёртывания. Компания добавила более строгие ограничения на опасные киберзапросы, системные классификаторы и многоуровневый мониторинг действий модели. В тестах на попытки обойти ограничения Astra отказывалась от запрещённой киберпомощи в 91,5% случаев против 59% у GPT-5.6 Sol. Для пользователей с повышенным уровнем риска будут действовать ещё более консервативные ограничения.
OpenAI также отдельно проверяла способность модели самостоятельно совершать несанкционированные действия. В тесте, созданном с учётом инцидента с Hugging Face, Astra не пыталась атаковать дополнительные цели, тогда как GPT-5.6 Sol без производственных защит делала это в 56% тестов. Компания подчёркивает, что речь идёт о специально смоделированных условиях, а не о поведении моделей при обычном использовании.
Astra должна выйти в ближайшее время, однако её наиболее мощные возможности в кибербезопасности сначала будут доступны ограниченной группе альфа-тестировщиков. Затем OpenAI планирует расширить доступ через Daybreak Blue, прежде всего для защитного применения — поиска и устранения уязвимостей. Подробности оценок безопасности, тестов и применённых защит компания обещает опубликовать вместе с системной картой Astra.