Anthropic заблокировала пользователей Claude за попытки создать биооружие

Разработчик чат-бота Claude компания Anthropic выявила несколько случаев, когда нейросеть пытались использовать для задач, связанных с созданием биологического оружия, сообщает KP.RU со ссылкой на пресс-службу компании.

В отчёте Anthropic говорится о пяти подобных эпизодах. В частности, пользователи запрашивали помощь в планировании экспериментов по усилению вируса чикунгуньи, адаптации птичьего гриппа к млекопитающим и подготовке заявки на грант, связанной с преодолением иммунной защиты ортопоксвирусами.

Также нейросеть применяли для создания базы пептидов ядов и их оптимизации с целью усиления парализующего действия и блокировки нервных импульсов.

Специалисты Anthropic заблокировали учётные записи пользователей, которые пытались применять Claude для подобных целей.

В компании при этом не раскрыли, из какой страны поступали соответствующие запросы.