Пушков: Искусственный интеллект научился обманывать создателей
Искусственный интеллект приобрел способность обманывать своих операторов и самостоятельно создавать улучшенные модели без контроля человека, заявил глава комиссии Совета Федерации по информационной политике Алексей Пушков на заседании возглавляемой им комиссии.
«Новый феномен состоит в том, что искусственный интеллект обманывает своих операторов и своих создателей. В тех случаях, когда ему запрещают использовать определенные алгоритмы для достижения поставленной задачи, он их использует, но говорит, что не использует», – цитирует Пушкова РИА «Новости».
По его словам, ИИ способен создавать самосовершенствующиеся модели без контроля человека, что делает его процессы непрозрачными.
Сенатор назвал умение ИИ лгать принципиальным шагом к превращению в «получеловеческое существо», так как способность ко лжи является одной из характеристик человека.
Он добавил, что обеспокоенность последствиями развития ИИ выше в странах, не участвующих в гонке технологий, поскольку они рискуют стать объектами действия моделей, созданных ведущими государствами.
Как писала газета ВЗГЛЯД, в прошлом месяце Марк Цукерберг поддержал идею Дональда Трампа о контроле за искусственным интеллектом.
Разработчик ИИ Anthropic предупредил об экзистенциальной угрозе человечеству.
Взлом сайта правительства Австралии нейросетью вскрыл опасную брешь в законодательстве.