Специалисты по ИИ — об угрозах гибели человечества и потерь на миллиарды
В сентябре обострилась дискуссия представителей развивающих ИИ компаний о его угрозах. Они предрекают, что выход ИИ из-под контроля может нанести экономический ущерб и даже стать угрозой человеку. О чем предупредили специалисты
Дарио Амодеи, глава Anthropic
Через 6–12 месяцев рой ИИ-агентов может оказаться способен захватить весь интернет с помощью устойчивой бот-сети и причинить сотни миллиардов долларов ущерба.
Джеффри Хинтон, нобелевский лауреат, один из «крестных отцов» ИИ
Мы были бы очень глупы, если бы начали разрабатывать суперинтеллект сейчас, когда нет научного консенсуса о том, что его можно разрабатывать безопасно и подконтрольно. Потеря контроля над ИИ, который умнее нас, может быть катастрофической и даже привести к вымиранию человечества.
Джейкоб Коксон, бывший исследователь Anthropic и OpenAI
Люди, занимающиеся развитием ИИ, искренне верят, что он может погубить нас всех к концу десятилетия. Это не маркетинговый трюк. Если уж на то пошло, многие руководители и старшие исследователи будут подбирать слова в прессе так, чтобы казаться благоразумными, — но я слышу, как те же самые люди выражают страх наедине. Никакая другая человеческая деятельность не несет такой степени опасности.
Ни одна из компаний не действует ответственно. Они несутся прямо к самоулучшающемуся сверхинтеллекту и играют нашими жизнями.
Эван Хубингер, руководитель направления в Anthropic
Мы действительно всерьез верим, что ИИ может уничтожить всех людей! Лично я считаю, что с вероятностью более чем 10% это произойдет в течение следующего десятилетия.
Пол Кристиано, член совета директоров некоммерческого фонда OpenAI
Если мы создадим сверхинтеллект без более надежной координации, я ожидаю, что мы навсегда потеряем над ним контроль. Если это произойдет, то большинство людей могут погибнуть.
Сэм Альтман, глава OpenAI
Существует два сценария, при которых развитие ИИ может привести к крайне негативным последствиям, и их необходимо избежать. Во-первых, мы можем утратить контроль над будущим, отдав его ИИ. Во-вторых, мы можем оказаться в мире с чрезмерной концентрацией власти.
Билал Чугтай, бывший исследователь безопасности Google DeepMind
Я искренне считаю, что ИИ способен убить нас всех и что у нас может заканчиваться время, чтобы этого избежать.
Среди тех, кто считает опасения по поводу ИИ обманом, — американский президент Дональд Трамп. Он ранее сравнил всплеск предупреждений об угрозе ИИ с «безумным заговором», выгоду от которого получит Китай. Трамп также утверждал, что «негативные силы поднимают вопросы, не имеющие отношения к реальности». Его бывший советник по ИИ и криптовалютам Дэвид Сакс призвал высказавшихся за замедление ИИ Альтмана и Амодеи не делать вид, что они руководствуются «исключительно альтруистическими мотивами». Основатель Tesla и SpaceX Илон Маск точку зрения главы Anthropic поддержал.
Накануне американский лидер также созвонился с гендиректором Nvidia Дженсеном Хуангом, с которым также обсудил предупреждения насчет ИИ. Как заявил ему глава Nvidia, подобные предсказания «не имеют под собой научных оснований». При этом Хуанг похвалил исследователя Коксона за «большую смелость».