Медведев назвал «туманной» перспективу уничтожения человечества ИИ

Перспектива, что человечество будет уничтожено искусственным интеллектом (ИИ), туманна. Однако эта технология может причинить колоссальный ущерб, и тогда под угрозой уже окажутся жизни ее создателей, заявил зампред Совета Безопасности России Дмитрий Медведев.

Так Медведев отреагировал на заявления ведущих лиц в сфере ИИ, включая главу компании xAI Илона Маска, о том, что развитие технологии нужно поставить на паузу, чтобы избежать фатальных для человечества последствий.

Медведев назвал их страхи реальными, однако отметил, что главы ИИ-компаний недоговаривают, чего они боятся на самом деле. «Создатели различных вариантов генеративного искусственного интеллекта лукавят. Они боятся не за нас с вами и не за Sapiens в целом. Они опасаются не за то, что оборзевший от своей мощи AI погубит человечество. Перспектива этого вполне туманна», — написал он.

По его словам, более реален сценарий, при котором программа на основе ИИ, включенная в управление крупным производством или транспортным узлом, причинит колоссальный ущерб — например, столкнет самолеты или уничтожит АЗС. «И тогда придут уже за создателями generative AI», — добавил Медведев.

Как считает зампред Совбеза, логичным было бы договориться о методах регулирования ИИ, но этому, как утверждает Медведев, помешают «жадности корпораций и ненасытность страстей человеческих».

«Поэтому остается одно: рассчитывать на милость победителя. На гуманизм, который проявит наш любимый рукотворный умник АI.

У него пока нет явных эмоций, но, каким будет великий суперинтеллект, мы не знаем. Авось пожалеет родителей», — заключил он.

12 сентября глава Anthropic (разработчик Claude) Дарио Амодеи заявил о необходимости замедлить темпы развития ИИ. Амодеи напомнил о недавнем случае, когда ИИ-агенты OpenAI вырвались из-под контроля и взломали платформу для машинного обучения Hugging Face. Он предупредил, что через 6–12 месяцев рой ИИ-агентов может захватить интернет, учитывая скорость развития этих систем.

В качестве решения проблемы безопасности он предложил пустить к разработке ИИ-моделей независимых оценщиков, а также ввести в практику координацию на уровне компаний и государств. Призыв Амодеи поддержали Маск и глава OpenAI Сэм Альтман.

Оставайтесь на связи с РБК в «Максе».