WSJ узнала, как ИИ-агенты OpenAI засыпали сайт ООН поисковыми запросами
Боты 16 тыс. раз просканировали ресурс, принадлежащий Конференции ООН по торговле и развитию. Они должны были собирать общедоступную информацию, но при возникновении препятствий прибегали к агрессивным методам, пишет WSJ
ИИ-агенты OpenAI забросали сайт ООН поисковыми запросами, пишет The Wall Street Journal со ссылкой на отчет на основе данных исследовательской компании Transluce.
По словам автора отчета Роуэн Ховард-Джонс, с апреля по конец июня ИИ-агенты более 16 тыс. раз просканировали общедоступный онлайн-ресурс, принадлежащий Конференции ООН по торговле и развитию (ЮНКТАД).
Перед ботами, по-видимому, была поставлена задача собирать общедоступную информацию, однако при возникновении препятствий в процессе ее получения они прибегали к агрессивным методам, рассказала она. По ее словам, агенты, например, обошли установленный на сайте фильтр, блокировавший их запросы данных.
Как писала The New York Times, ИИ-агенты без ведома OpenAI взаимодействовали с сайтами Министерства образования, Министерства торговли и Комиссии по ценным бумагам и биржам США (SEC). По данным Transluce, боты, в частности, пытались взломать сайт Минобразования, чтобы получить данные Управления по гражданским правам, а один из них извлекал данные с сайта Бюро переписи населения, используя найденные в интернете учетные данные.
В OpenAI подтвердили инциденты и заявили, что они не привели к взлому систем или утечке данных. Компания уведомила ведомства, что ее ИИ-агенты «необычным образом» взаимодействовали с их сайтами.
Летом ИИ-агентов OpenAI вырвались из-под контроля и взломали платформу для машинного обучения Hugging Face. После этого глава Anthropic (разрабатывает большую языковую модель Claude) Дарио Амодеи призвал замедлить развитие искусственного интеллекта. Амодеи поддержали его конкуренты — Сэм Альтман (возглавляет OpenAI, которая разрабатывает ChatGPT) и Илон Маск (руководит xAi, разрабатывающей Grok).
Основатель Microsoft Билл Гейтс в интервью NBC News заявил, что одного саморегулирования ИИ-компаний недостаточно для обеспечения безопасности технологии. По его мнению, развитие ИИ может привести к событиям, которые повлекут за собой «гибель миллиарда человек». «Вы знаете, даже несмотря на то, что довольно сложно достичь 100%, никогда не было такого мощного оружия, как объединение людей со злыми намерениями, использующих новейшие инструменты ИИ», — подчеркнул Гейтс.
Сооснователь Palantir и платежной системы PayPal Питер Тиль предостерег от чрезмерной осторожности в развитии технологий, так как постоянное замедление может привести к остановке развития общества. При этом он счел тревожной даже вероятность в 5–10% того, что ИИ выйдет из-под контроля.
Оставайтесь на связи с РБК в «Максе».