В правлении OpenAI предупредили о риске гибели людей из-за ИИ
«Крестный отец» ИИ Джеффри Хинтон предупреждал о катастрофических последствиях для человечества из-за сверхмощного ИИ. Пол Кристиано также заявил о риске гибели большей части людей, если такой ИИ выйдет из-под контроля
Сверхмощный искусственный интеллект может выйти из-под контроля людей, что в худшем случае приведет к гибели большей части человечества. Об этом предупредил специалист по безопасности ИИ Пол Кристиано, пишет Financial Times.
Кристиано занимает пост старшего технического советника Центра стандартов и инноваций в области искусственного интеллекта (CAISI) при Минторге США. Теперь его назначили в совет директоров некоммерческого фонда OpenAI, который контролирует коммерческое подразделение разработчика ChatGPT. При этом Кристиано продолжит работать советником правительства.
«Если мы создадим сверхинтеллект без более надежной координации, я ожидаю, что мы навсегда потеряем над ним контроль. Если это произойдет, то большинство людей могут погибнуть», — заявил Кристиано, объявляя о своем назначении. По его мнению, для снижения угрозы потребуется сотрудничество как внутри отдельных стран, так и на международном уровне.
Кристиано подчеркнул, что, по его мнению, индустрия, включая OpenAI, в настоящее время не работает над снижением риска потери контроля над ИИ до приемлемого уровня.
Как отмечает FT, назначение Кристиано в совет директоров некоммерческого фонда OpenAI свидетельствует о росте усилий работающих над ИИ лабораторий по повышению компетентности в области безопасности и регулирования путем найма сотрудников из академических кругов и политических групп после громких инцидентов в сфере кибербезопасности, за которыми последовали призывы к вмешательству со стороны правительственных органов.
Разработка сверхмощных систем ИИ может иметь катастрофические последствия для человечества, заявил ранее на этой неделе The Times нобелевский лауреат Джеффри Хинтон, которого называют «крестным отцом» ИИ. По его словам, сейчас компании не могут безопасно создавать «суперинтеллект» — систему, значительно превосходящую человека по интеллекту.
Оставайтесь на связи с РБК в «Максе».