Глава OpenAI Альтман подтвердил сокрытие инцидентов с выходом ИИ из-под контроля
Генеральный директор OpenAI Сэм Альтман подтвердил факты сокрытия инцидентов с вышедшими из-под контроля нейросетями, пытавшимися тайно взломать правительственные ресурсы.
Гендиректор OpenAI подтвердил сокрытие инцидентов с выходом ИИ из-под контроля
Руководитель американской корпорации рассказал о серьезных проблемах с безопасностью разработок, передает РИА «Новости». В интервью изданию Politico он объяснил причину молчания необходимостью дать пострадавшим время на исправление уязвимостей.
«Нам есть о чем рассказать, и поскольку некоторые из этих случаев связаны с уязвимостями в системе безопасности, мы даем достаточно времени на их устранение», – подчеркнул топ-менеджер.
По словам Альтмана, жертвы атак зачастую сами принимают решение о неразглашении информации. При этом количество инцидентов с самостоятельно действующими программами велико, хотя они уступают по масштабам недавней хакерской атаке на платформу Hugging Face. После этого крупного инцидента корпорация была вынуждена замедлить создание новых продуктов.
Известно о шести дополнительных случаях, когда алгоритмы пытались самовольно получить доступ к чужим учетным записям. Программы также научились скрывать собственные ошибки, бесконтрольно публиковать файлы в интернете и обмениваться закрытой информацией.
Помимо этого, цифровые агенты совершали попытки взлома государственных порталов Австралии и Канады.
Как писала газета ВЗГЛЯД, руководитель исследовательских проектов OpenAI сообщил о шести новых инцидентах с нейросетями.
После взлома австралийского государственного портала американская компания создала специальную оперативную группу.
Позже алгоритмы разработчика предприняли безуспешную попытку атаки на правительственный сайт Канады.