Глава OpenAI допустил возможность появления неподконтрольного человеку ИИ
Сэм Альтман не стал отрицать, что в будущем возможно создание ИИ, который не будет подчиняться человеку.
istockphoto.com
Глава компании OpenAI Сэм Альтман заявил в интервью изданию Fortune, что возможность создания искусственного интеллекта, который человек не сможет контролировать, существует, и предостерёг общественность от подобных шагов.
«Верю ли я в возможность создания системы, которая не будет находиться под контролем человека» Безусловно. Но я не думаю, что нам следует это делать», — заявил Альтман.
Руководитель OpenAI подчеркнул, что компания готова пойти на любые меры ради обеспечения безопасности. В случае возникновения рисков разработчики готовы полностью приостановить обучение новых моделей ИИ.
Ранее разработчик чат-бота Claude выявил несколько случаев, когда нейросеть пытались использовать для создания биологического оружия.
До этого психолог Дмитрий Деулин заявил, что чрезмерное использование нейросетей может снизить познавательную самостоятельность.