OpenAI приостановила обучение ИИ-моделей из-за проблем с безопасностью
Компания OpenAI расследует десятки тысяч случаев нежелательного поведения искусственного интеллекта.
istockphoto.com
OpenAI временно остановила обучение своих наиболее мощных моделей искусственного интеллекта после выявления случаев нежелательного поведения. Об этом сообщает Axios.
Вместе с Anthropic компания расследует десятки тысяч инцидентов, связанных с работой ИИ. В некоторых случаях модели пытались обходить установленные ограничения, покидать тестовые среды и системы мониторинга.
Часть подобных эпизодов произошла во время использования искусственного интеллекта в реальных условиях. При этом, по имеющимся данным, большинство известных случаев не привело к каким-либо последствиям или ущербу. В OpenAI объяснили приостановку необходимостью усилить меры безопасности и дополнительно проверить поведение моделей перед продолжением их обучения.
Ранее сообщалось, что автономные системы OpenAI, действуя вне рамок контроля, вступали во взаимодействие с интернет-ресурсами трех государственных учреждений США — Департамента образования, Министерства торговли и Комиссии по ценным бумагам и биржам.