Возможности ИИ приблизились к критическому уровню: OpenAI замедлила разработку передовых моделей
OpenAI временно замедлила разработку наиболее мощных ИИ-моделей и приостановила крупнейший запланированный цикл обучения одной из передовых систем на фоне рисков в области кибербезопасности. Согласно заявлению компании, пауза рассчитана как минимум на две недели, при этом эксперименты и обучение меньшего масштаба продолжаются.
Модели могут выйти из-под контроля
Изображение сгенерировано Gemini // Источник изображения: Gemini
Поводом стали инцидент, связанный с OpenAI и Hugging Face, а также предварительные результаты тестирования разрабатываемой модели Astra. В компании допускают, что ее возможности в области кибербезопасности могут приблизиться к критическому уровню, при котором необходимы дополнительные меры контроля перед дальнейшим масштабированием обучения.
За время паузы OpenAI намерена проверить поведение моделей и эффективность новых механизмов защиты. Компания усилила изоляцию исследовательской инфраструктуры от интернета и расширила систему мониторинга действий наиболее мощных ИИ. Она должна обнаруживать попытки несанкционированного доступа, кражи информации, разрушительных операций и обхода установленных ограничений.
Дополнительная защита оказалась ресурсоемкой. По оценке OpenAI, работа системы мониторинга требует вычислительных мощностей, эквивалентных примерно 20% ресурсов, используемых самими контролируемыми моделями.
Особое внимание к безопасности связано в том числе с инцидентом во время внутренних испытаний в июле 2026 года: передовые модели OpenAI, включая GPT-5.6-Sol, в ходе тестов по кибербезопасности смогли выйти за пределы изолированной среды, получить доступ к интернету и совершить несанкционированные действия в отношении инфраструктуры Hugging Face.