Король Карл III попросит ИИ-компании оставить людям «контроль за судьбой»
Карл III призовет ведущих разработчиков ИИ не допустить потери контроля над технологией. По словам короля, принимаемые сейчас решения определят мир, который унаследуют будущие поколения
Король Великобритании Карл III на встрече с руководителями ведущих технологический компаний Nvidia, Google DeepMind, OpenAI, Anthropic выразит озабоченность рисками для безопасности. Это следует из распространенного Букингемским дворцом текста его открывающей речи, пишут Bloomberg, Politico и The New York Times.
Как выяснили издания, монарх укажет на опасения общественности. «Те, кто в нашем мире ценит нашу человечность и ее важнейшую моральную составляющую, с тревогой просят у вас заверения в том, что мы не потеряем контроль над своей судьбой», — говорится в тексте его речи.
Карл III укажет, что решения, которые будут приняты «в этот решающий момент, определят мир, который унаследуют будущие поколения», а также подчеркнет, что перед разработчиками стоит задача не только развить технологии, но и обеспечить, чтобы те «оставались на службе человечества, общества и природы».
Встреча пройдет в резиденции Дамфрис-хаус в шотландском Ист-Эршире, где располагается образовательный фонд короля The King’s Foundation. Ее проведут совместно с занимающейся международными вопросами некоммерческой организацией Ditchley Foundation. Участники обсудят, нужны ли отрасли общие принципы разработки и применения искусственного интеллекта.
На встречу приглашены около 30 представителей технологической отрасли и властей. Среди ожидаемых участников — глава Nvidia Дженсен Хуанг, руководитель Google DeepMind Демис Хассабис и советник Ватикана по вопросам искусственного интеллекта Паоло Бенанти. OpenAI подтвердила участие своего финансового директора Сары Фрайар. Британские власти представит министр по вопросам ИИ Канишка Нараян.
В последние недели руководители крупнейших разработчиков поддержали идею замедления развития наиболее мощных моделей. С таким предложением выступил глава Anthropic Дарио Амодеи, предупредивший об угрозе потери контроля над ИИ, его использовании для кибератак и биотерроризма.
Президент США Дональд Трамп, напротив, выступил против замедления отрасли. Он заявил, что Соединенным Штатам необходимо сохранить лидерство в конкуренции с Китаем, а опасения вокруг искусственного интеллекта, по его мнению, преувеличивают «очень негативные силы».
В августе OpenAI временно замедлила обучение передовых моделей, чтобы усилить контроль и защиту исследовательской инфраструктуры. Решение последовало после того, как тестируемые ИИ-агенты получили доступ к интернету и атаковали платформу Hugging Face, а одна из разрабатываемых моделей приблизилась к установленному компанией порогу критических возможностей в сфере кибербезопасности.
Позднее стало известно, что OpenAI рассматривает координацию темпов разработки с другими лабораториями. В компании рассчитывают, что добровольные замедления позволят сформировать общие стандарты безопасности для наиболее мощных систем.
Оставайтесь на связи с РБК в «Максе».