OpenAI ответила на сообщения о попытках взлома сайта правительства Канады
OpenAI изучает данные о попытках взлома ИИ-агентами сайта правительства Канады, передает The Washington Post (WP).
«Нам известно о сообщениях о попытках моделей OpenAI получить доступ к общедоступной информации на веб-сайтах канадского правительства. Мы изучаем эти данные и предоставили предварительный отчет канадским чиновникам, проводящим проверку со стороны правительства», — сказал в беседе с изданием представитель компании.
Ранее WP со ссылкой на некоммерческую организацию по исследованию ИИ Transluce сообщила, что неизвестные ИИ-агенты попытались взломать сайт канадского правительства. Чьи именно это были агенты, неизвестно, однако, по словам специалистов, их поведение напоминает OpenAI.
В начале сентября глава Anthropic (разрабатывает Claude) Дарио Амодеи призвал замедлить разработку ИИ на фоне инцидентов со взломом других платформ агентами OpenAI. Он предупреждал, что при сохранении нынешних темпов в течение 6–12 месяцев агенты ИИ потенциально смогут использовать постоянно действующий ботнет и причинить ущерб на сотни миллиардов долларов.
Призыв Амодеи поддержали глава OpenAI (разрабатывает ChatGPT) Сэм Альтман и предприниматель Илон Маск, чья компания xAI занимается разработкой Grok.
Оставайтесь на связи с РБК в «Максе».