OpenAI поставила Astra на паузу: ИИ приблизился к порогу критических кибервозможностей
Внутренние оценки не позволили компании исключить способность модели самостоятельно находить уязвимости и проводить сложные атаки, поэтому OpenAI усиливает защитные меры до продолжения работ
OpenAI 7 августа приостановила внутренние работы с моделью Astra, которые не соответствуют ужесточённым требованиям безопасности. По итогам внутренних оценок и экспертных заключений компания заявила, что пока не может исключить достижение Astra порога "Critical" в области кибербезопасности, установленного её внутренней системой оценки потенциальных угроз по нескольким категориям риска Preparedness Framework. Речь идёт о предварительной оценке: Astra ещё не выпущена, а компания продолжает тестирование модели и её защитных механизмов.
В OpenAI связывают решение с ростом возможностей Astra в агентном программировании и кибербезопасности. Порог "Critical" означает, что модель потенциально способна без помощи человека разрабатывать работоспособные эксплойты для ранее неизвестных уязвимостей в широком наборе защищённых реальных критических систем либо самостоятельно строить и проводить сквозные кибератаки на защищённые цели, получив только высокоуровневую задачу. Предыдущие модели OpenAI, включая GPT-5.6-Sol, компания оценивала на более низком уровне "High".
Изображение сгенерировано: Nano Banana
Теперь OpenAI расширяет испытания устойчивости защитных механизмов и усиливает требования к безопасности для моделей с более высокими возможностями. Компания не раскрыла результаты конкретных тестов, наборы заданий или перечень новых защитных мер. При этом Astra не связана с описанным ранее взломом инфраструктуры Hugging Face. По данным Axios, работы над моделью замедлены на время внедрения необходимых механизмов, а сроки её возможного выпуска пока не определены.
Для агентных систем принципиально важно проверять не только способность модели написать код или объяснить уязвимость, но и то, что происходит при предоставлении ей реальных инструментов. Потенциальный риск возникает при объединении поиска уязвимости, написания эксплойта, доступа к системам и автономного выполнения последовательности действий. Поэтому новые требования OpenAI распространяются не только на саму модель, но и на связанные с ней процессы разработки и использования.
Решение стало публичным примером того, как оценка кибервозможностей может влиять непосредственно на разработку ещё не выпущенной модели. При этом опубликованных данных пока недостаточно, чтобы независимо установить, достигла ли Astra порога "Critical": OpenAI лишь сообщает, что не смогла исключить такую возможность. Компания продолжает тестирование и должна определить дальнейшие условия разработки до возможного выпуска модели.