Покинувший OpenAI Дэвид Робинсон заявил о нехватке осторожности у ИИ-компаний
Бывший руководитель направления по прозрачности систем безопасности американской компании OpenAI Дэвид Робинсон заявил, что разработчики искусственного интеллекта не соблюдают должную осторожность.
Экс-глава направления безопасности OpenAI заявил о неосторожности ИИ-компаний
«Я руководил подготовкой отчетов по безопасности, которые мы публиковали при каждом крупном запуске. Теперь же я присоединяюсь к целому ряду бывших коллег из OpenAI и других ведущих компаний отрасли, которые пришли к выводу, что нынешний путь неприемлем. Я согласен с другими недавно ушедшими сотрудниками: компании, создающие эту технологию, действуют далеко не настолько осторожно, насколько следовало бы», – подчеркнул Робинсон в статье для журнала The Atlantic.
Специалист добавил, что намерен продолжать работу вне компании. Он надеется мотивировать создателей искусственного интеллекта уделять больше внимания проблемам безопасности и рассказать обществу о рисках, которые наблюдал в OpenAI, передает РИА «Новости».
Ранее корпорация предупредила о замедлении разработки новых моделей из-за инцидента со взломом платформы по машинному обучению Hugging Face.
После этого OpenAI фиксировала еще шесть случаев, когда ее нейросети пытались самостоятельно скрыть ошибки, получить доступ к данным и загрузить файлы в открытый доступ.
Кроме того, власти Австралии сообщали о взломе национальной системы медицинского страхования ИИ-агентом от OpenAI, а аналогичные попытки атаковать правительственные сайты фиксировались в Канаде.
Как писала газета ВЗГЛЯД, в субботу OpenAI лишилась руководителя по прозрачности систем безопасности.В
пятницу специалисты по искусственному интеллекту подняли бунт в ведущих ИИ-компаниях.
Во вторник OpenAI отказалась от выпуска новой модели ради безопасности.