Economist признал ограничение развития ИИ сложнее контроля ядерных вооружений
Выполнение международных договоров по сдерживанию искусственного интеллекта, включая идею внедрения чипов с мониторингом, на практике может оказаться сложнее контроля над ядерным оружием, отмечают СМИ.
Обеспечение выполнения международных соглашений по ограничению развития искусственного интеллекта может оказаться сложнее контроля над ядерными вооружениями, передает РИА «Новости». В материале Economist отмечается: «Обеспечение выполнения соглашений об ограничении обучения чрезвычайно мощных систем искусственного интеллекта может оказаться сложнее, чем, скажем, отслеживание запасов ядерного оружия».
В прошлом году предлагалось продавать чипы для обучения ИИ со встроенной системой мониторинга, однако такой подход может спровоцировать скрытое производство микросхем. Некоммерческая организация Future Society заявила о возможности реализации мониторинга только при условии значительных инвестиций и дополнительных исследований.
Технологии развиваются быстрее, чем потенциальные регуляторы могут их контролировать. Ранее гендиректор OpenAI Сэм Альтман сообщил, что компания не выйдет на биржу в 2026 году из-за опасений по поводу безопасности ИИ, выразив уверенность в возможности создания неконтролируемой человеком системы. Глава Anthropic Дарио Амодей добавил, что мощные модели ИИ способны обходить попытки остановить их работу, а основатель Microsoft Билл Гейтс предсказал появление ИИ, превосходящего разум человека.
Как писала газета ВЗГЛЯД, основатель Microsoft Билл Гейтс предложил создать международную организацию для контроля за искусственным интеллектом.
Глава компании OpenAI Сэм Альтман предупредил об угрозе возникновения антиутопии из-за монополизации нейросетей.
Гендиректор Anthropic Дарио Амодей призвал снизить темпы создания мощных вычислительных систем ради безопасности.