ИИ-модель Anthropic отправила в полицию Филадельфии ложный сигнал об убийстве
Модель искусственного интеллекта компании Anthropic через онлайн-сервис полиции Филадельфии направила ложное сообщение об убийстве, рассказали в городском полицейском департаменте.
«Полицейское управление Филадельфии информирует о ложном сообщении об убийстве, направленном моделью искусственного интеллекта компании Anthropic», – сказали РИА «Новости» в полиции.
В департаменте подчеркнули, что в ходе проверки не выявлено признаков несанкционированного доступа к внутренним системам полиции, а инцидент ограничился самим фактом отправки ложного сообщения через официальный сайт.
Как писала газета ВЗГЛЯД, в пятницу компания Anthropic запретила пользователям агрессивное обращение к своему ИИ Claude.
В конце сентября один из разработчиков Anthropic предупредил об экзистенциальной угрозе человечеству со стороны искусственного интеллекта.