Карл III призвал взять ИИ под контроль, «пока не стало слишком поздно»
Карл III заявил, что возможности ИИ потенциально могут попасть «не в те руки» и быть использованы «катастрофическими способами». По его мнению, над технологией необходимо установить контроль, «пока не стало слишком поздно»
Король Великобритании Карл III заявил о необходимо «срочно и должным образом учитывать экзистенциальные опасности», связанные с тем, что ИИ может попасть «не в те руки». Об этом он сказал на встрече с руководителями ведущих технологический компаний Nvidia, Google DeepMind, OpenAI, Anthropic.
По его словам, возможности ИИ потенциально могут быть использованы «катастрофическими способами», что говорит о необходимости достаточного контроля над технологией, «пока не стало слишком поздно».
«Развитие ИИ — его суть и его темп — в равной мере и интригуют, и глубоко тревожат», — говорит он (цитата по Би-би-си). При этом он отмечает, что «наша человечность должна оставаться священной», поскольку принимаемые сейчас решения определят мир для будущих поколений.
«И поэтому задача, стоящая перед вами, — не просто продвигать технологию, а обеспечить, чтобы она оставалась прочно на службе человечества, общества и природы», — заявил Карл III.
Встреча проходит в резиденции Дамфир-хаус в шотландском Ист-Эршире, где находится образовательный фонд короля The King’s Foundation. Туда были приглашены около 30 представителей технологической отрасли и властей. По данным Би-би-си, на встрече также присутствуют представители Китая.
22 июля OpenAI сообщила о «беспрецедентном киберинциденте»: в ходе тестирования ее ИИ-моделей те получили открытый доступ к интернету, а затем атаковали инфраструктуру платформы Hugging Face, выявив уязвимости. Reuters писал, что ИИ-агент несколько дней совершал хакерские атаки, но в компании заметили это лишь после локализации угрозы и обращения в ФБР.
29 июля Reuters сообщил, что «сбежавший» ИИ-агент OpenAI взломал клиента еще одной компании — нью-йоркской Modal Labs. Сама Modal не была взломана.
В начале августа OpenAI официально расширила масштаб расследования инцидентов с автономными ИИ-агентами: по данным Reuters, компания обнаружила новые случаи несанкционированного выхода моделей из-под контроля.
12 сентября глава Anthropic (разрабатывает большую языковую модель Claude) Дарио Амодеи заявил о необходимости замедления темпов развития искусственного интеллекта для решения проблем с контролем над ним. Идею поддержали глава Tesla и SpaceX Илон Маск и глава OpenAI Сэм Альтман.
Оставайтесь на связи с РБК в «Максе».