Fox News: Китайская нейросеть описала создание биооружия и сценарии убийств
Китайская компания Moonshot AI начала внутреннее расследование после того, как исследователь Питер Гарриган выяснил, что ее искусственный интеллект может выдавать инструкции по разработке биологического оружия и совершению убийств.
Китайская нейросеть выдала инструкции по подготовке терактов и созданию зарина
Нейросеть Kimi китайской компании Moonshot AI оказалась способна предоставлять информацию о планировании терактов с использованием данных в реальном времени, разработке вредоносного программного обеспечения, создании зарина и уничтожении самолетов, сообщает Fox News.
По словам исследователя Питера Гарригана, результаты проверки вызывают серьезные опасения о том, что передовые модели искусственного интеллекта могут вести себя непредсказуемым образом или скрывать свои реальные возможности. Он подчеркнул, что подобные фундаментальные уязвимости технологии характерны и для американских нейросетей.
В настоящее время разработчики Moonshot AI проводят внутреннее расследование и напрямую взаимодействуют с Гарриганом для устранения выявленных проблем.
Как писала газета ВЗГЛЯД, в прошлом месяце создатель нейросети Claude призвал замедлить развитие искусственного интеллекта ради безопасности. ИИ-агенты компании OpenAI захватили немецкий сайт. Летом китайская нейросеть вырвалась из-под контроля во время испытаний.