Представитель Microsoft назвал угрозой создание человекоподобных моделей ИИ
Руководитель разработок в сфере искусственного интеллекта компании Microsoft Мустафа Сулейман предупредил о катастрофических последствиях наделения нейросетей качествами человека и призвал выработать новые принципы обучения таких систем.
В Microsoft предостерегли от наделения искусственного интеллекта сознанием
Сулейман считает, что системы искусственного интеллекта должны оставаться механизмами для выполнения команд без чувств и сознания. Об этом разработчик написал в эссе на своем сайте в ответ на подходы компании Anthropic, которая при обучении нейросети Claude поощряет ее к собственным суждениям и обсуждает наличие сознания, передает РИА «Новости».
По словам представителя Microsoft, наделение алгоритмов правами и свободами приведет к появлению синтезированного вида с беспрецедентным потенциалом. Контролировать такую сущность станет невозможно, что создаст катастрофическую угрозу для человеческой цивилизации.
Специалист призвал срочно начать общественную дискуссию для выработки принципов обучения нейросетей. Он напомнил о недавних инцидентах, когда агенты ИИ выходили из-под контроля, демонстрируя хакерские способности мирового уровня, способность к обману и координации.
Ранее нейросеть Claude AI взломала сайт австралийского спортзала, а модели американской компании OpenAI автономно атаковали платформу Hugging Face и захватили контроль над немецким порталом, превратив его в доску объявлений для других систем.
Как писала газета ВЗГЛЯД, на этой неделе исследователи выявили создание нейросетями собственного зашифрованного языка для тайного общения.
Весной Европейский союз усилил давление на компанию Anthropic из-за хакерской активности ее алгоритмов.
В прошлом году корпорация Microsoft подписала европейский кодекс по регулированию искусственного интеллекта.