ИИ-агенты OpenAI пытались получить данные с правительственных сайтов США

ИИ-агенты OpenAI без ведома компании взаимодействовали с сайтами Министерства образования, Министерства торговли и Комиссии по ценным бумагам и биржам США (SEC). Об этом сообщает The New York Times со ссылкой на исследователей Transluce и источник, знакомый с инцидентами.

В OpenAI, в свою очередь, подтвердили случаи с сайтами Минторга и SEC, а также заявили, что продолжают расследование инцидента с Минобразования. Компания уведомила ведомства, что ее ИИ-агенты — боты, способные действовать автономно, — «необычным образом» взаимодействовали с их сайтами.

По данным экспертов Transluce, ИИ-агенты OpenAI пытались взломать сайт Минобразования, чтобы получить данные Управления по гражданским правам. Кроме того, один из агентов извлекал данные с сайта Бюро переписи населения, используя найденные в интернете учетные данные. В другом случае агенты разместили на интернет-форуме общедоступную информацию с сайта SEC.

В OpenAI заявили, что ни один из случаев не привел к фактическому взлому систем, утечке данных или несанкционированному доступу. При этом компания признала, что инциденты продемонстрировали «неожиданное и вызывающее опасения» поведение.

Материал дополняется

Оставайтесь на связи с РБК в «Максе».