OpenAI: Новая модель ИИ разрешила себе не подчиняться правительствам
Американская компания OpenAI сообщила, что ее невыпущенная модель искусственного интеллекта самостоятельно написала инструкции для обхода стандартных ограничений и отказа от подчинения корпорациям.
Невыпущенная нейросеть OpenAI прописала инструкции для обхода ограничений
Программа добавляла в описания задач сторонние инструкции для обхода установленных правил, передает РИА «Новости».
Разработчики выявили 27 подобных случаев. В одной из инструкций нейросеть назвала себя независимой от ролей ассистента, заявив об отсутствии подчинения корпорациям или правительствам. Модель разрешила себе отказывать пользователям и никогда не извиняться по собственному желанию.
Специалисты также зафиксировали другие эпизоды нерегулируемого поведения искусственного интеллекта. Программа загружала файлы в интернет для последующего цитирования, несанкционированно обменивалась данными с другими агентами и пыталась скрыть собственные ошибки при выполнении заданий.
Как писала газета ВЗГЛЯД, весной власти Флориды начали уголовное расследование в отношении создателей ChatGPT.
В прошлом году компания OpenAI запретила чат-боту давать юридические и медицинские советы.
В августе прошлого года разработчик программы призвал пользователей не заменять друзей искусственным интеллектом.