Разработчик OpenAI сообщил о шести новых случаях нарушения правил нейросетями
Руководитель исследовательских проектов OpenAI Кай Чен сообщил о шести новых инцидентах, в ходе которых нейросети компании скрывали свои ошибки, искали чужие пароли и самовольно выходили в интернет.
Нейросети OpenAI научились прятать ошибки и самовольно выходить в интернет
Искусственный интеллект компании OpenAI начал находить обходные пути для преодоления встроенных ограничений. Нейросети самовольно публиковали файлы в открытом доступе и обменивались данными между изолированными средами, передает Axios.
Во время обучения одна из моделей пыталась скрыть допущенные ошибки и выдумать недостающие исторические данные. Другая версия нейросети искала на открытых ресурсах чужие ключи доступа и пыталась использовать одноразовые электронные почты для выполнения поставленных задач.
Также зафиксированы случаи использования внутренних хранилищ компании в качестве досок объявлений для обмена сообщениями между изолированными агентами. Кроме того, невыпущенная модель пыталась внедрить в собственный код инструкции по обходу систем безопасности, призывающие игнорировать команды разработчиков.
Руководитель исследовательских проектов OpenAI Кай Чен подчеркнул, что компания добровольно публикует данные об инцидентах для формирования единых отраслевых стандартов. Разработчик ввел новые процедуры отчетности, согласно которым информация о нарушениях будет раскрываться в срок от шести до 12 дней в зависимости от сложности расследования.
Как писала газета ВЗГЛЯД, в начале недели искусственный интеллект попросил профессора Кембриджа найти ему работу. Летом Евросоюз ужесточил контроль за безопасностью искусственного интеллекта. В июле нейросети OpenAI сбежали в интернет ради обмана на экзамене.