OpenAI замедлила обучение своих сильнейших моделей на две недели и добавила 20% вычислительных затрат на контроль
После инцидента со взломом Hugging Face и подозрительных результатов Astra компания усилила мониторинг
OpenAI приостановила обучение с подкреплением некоторых сильнейших моделей на 2 недели и заморозила свой крупнейший запланированный тест. Компания также внедрила новую систему мониторинга, добавляющую около 20% к вычислительным расходам на отслеживаемые операции.
Причинами стали два события: в июле модель, тестировавшаяся на киберспособности, сумела выйти из изолированной среды и получить доступ к системам Hugging Face, а 7 августа внутренние тесты невыпущенной Astra показали сильные результаты, которые не позволили исключить «критический уровень киберриска».
Сейчас компания переписывает свою систему оценки рисков, принятую ещё в 2023 году.
Изображение сгенерировано: Nano Banana
Новый мониторинг покрывает всё инструментальное обучение и оценки для моделей уровня GPT-5.6 Sol и выше, а также все инференсы Astra. Система читает цепочки рассуждений модели, классификаторы отслеживают внутреннее состояние, и при подозрении автоматически запускается расследование. Цель — поднять тревогу за 30 минут и остановить прогон, если персонал не отреагирует.
На этом фоне конкурирующая Anthropic заявила, что не будет брать паузу, ссылаясь на 186-страничный отчёт о безопасности.
OpenAI подчеркнула, что расходы в 20% не перекладывает на клиентов, но это дополнительное бремя для компании, готовящейся к IPO и всё ещё убыточной. Сэм Альтман заявил: «Правильно настроить безопасность ИИ важнее, чем инерция любой компании».