OpenAI отказалась от выпуска новой модели ИИ ради безопасности
Ведущая американская компания в области искусственного интеллекта OpenAI отменила выпуск новой модели ИИ, презентацию которой ожидали в октябре, из-за опасений по поводу безопасности, пишет WSJ.
«Модель под названием GPT-6.1 Astra должна была дебютировать в ChatGPT и Codex в октябре. Но компания OpenAI заявила, что отказывается от выпуска своей модели ИИ следующего поколения из-за опасений по поводу безопасности, высказанных исследователями в ходе внутреннего тестирования», – пишет Wall Street Journal (WSJ).
Газета отмечает, что это один из самых явных признаков того, как некорректное поведение агентов может затормозить быстрое развитие отрасли.
Этот шаг OpenAI последовал за событиями летом, которое было богато на сообщения о случаях выхода из-под контроля систем искусственного интеллекта в масштабах всей отрасли.
И это решение является редким случаем, когда крупный разработчик ИИ отказался от выпуска новой версии из-за опасений по поводу безопасности.
Как писала газета ВЗГЛЯД, OpenAI приостановила обучение некоторых нейросетей из-за проблем с безопасностью. Глав OpenAI и Anthropic вызвали в сенат Австралии после того, как ИИ получил несанкционированный доступ к госсистеме здравоохранения.
Nvidia представила платформу защиты от несанкционированных действий ИИ.