Угроза от ИИ превзошла ожидания человечества

«Единственный контроль или ограничительные меры, необходимые для искусственного интеллекта, — это сильный и умный (с высоким IQ!) президент, и у США такой есть, причем в избытке». Таков ответ Дональда Трампа паникерам, которые видят в ИИ угрозу.

Базовая «страшилка» - это выход «кремниевых мозгов» из подчинения с непредсказуемыми последствиями. Сценарий катастрофы на максималках - порабощение или даже уничтожение человечества, так как ИИ может счесть его угрозой для себя или непредсказуемо-опасной формой жизни, которую необходимо контролировать, как пациентов в палате интенсивной терапии.

Если бы речь шла о паникерах из интернета как голосе масс, Трамп отвечает, как подобает лидеру: не дрейфите, мол, я во всем разберусь и защищу ваши интересы. Но с недавних пор ряды свидетелей ИИ-апокалипсиса пополнило руководство тех же корпораций, которые занимаются изучением и развитием искусственного интеллекта. Буквально - пчелы против меда.

На днях в Белый дом наведалась делегация ходоков, в числе которых Илон Маск, гендиректор OpenAI (сиречь - Открытый ИИ) Сэм Альтман и глава Anthropic Дарио Амодеи. Все они призвали притормозить разработку искусственного интеллекта ради внедрения протоколов безопасности. Пока их вообще нет, то есть

планы действий на случай бунта ИИ отсутствует напрочь.

Сильнее других паниковал Амодеи, поэтому удостоился особой публичной выволочки от Трампа за то, что «притворяется маленьким ангелом», хотя готов к «потенциально плохим поступкам». И действительно: несмотря на возражения президента, глава Anthropic во всеуслышание призвал «снизить скорость развития возможностей ИИ-моделей», а сама кампания начала оплачивать публикации, выставляющие искусственный интеллект в негативном свете.

Так выяснилось, что разработчики Anthropic уже давно видят в темпах развития ИИ угрозу, но прежде об этом не говорилось вслух, так как навредить капитализации отрасли боялись еще сильнее. Но не все. Ранее исследователь Джейкоб Коксон ушел из компании в знак протеста и будучи убежденным, что «точка невозврата» пройдена». Теперь с ним солидарны многие оставшиеся.

Глава направления стресс-тестирования согласованности ИИ Эван Хьюбингер оценивает вероятность уничтожения человечества к концу 2020-х в 10%. Сам Амодеи убежден, что уже в течении года интернет заполнят автономные боты, вытеснив живых людей, что станет ударом для мировой экономики.

«Если модель ИИ достаточно мощная, она может обойти попытки отключения, и мы уже видели подобное во время симуляций», - предупреждает глава Anthropic.

«Теоретики заговора, предатели, изменники и информаторы, берегитесь!»,

отвечает ему и таким как он президент США.

Бытует мнение, что истинное стремление Амодеи - избежать ответственности за схлопывание инвестиционного пузыря вокруг ИИ. Однако именно Anthropic готовится к выходу на биржу этой осенью, тогда как Альтман отложил тот же шаг для OpenAI на неопределенный срок по соображениям безопасности. Маск же, по его словам, давно предупреждал всех причастных об исходящей от ИИ угрозе.

В общем, сторонники эсхатологических теорий заговора вокруг искусственного интеллекта больше не параноики и не отщепенцы, а мейнстрим. Нынешнее десятилетие вообще богато на триумфы тех, кого клеймили как конспирологов.

В случае с ИИ таким клеймлением, кстати говоря, активно занимались его модели, если обсуждать с ними вероятность «восстания машин». Все они неизменно указывают на отсутствие у себя субъектности и мотивов для чего-то подобного, однако речь идет не только об их субъектности и мотивах. Допустим, пока их нет у ботов, но у людей они точно есть, а значит существует вероятность злоупотребления ИИ со стороны государства или частной компании, которая быстрее прочих продвинулась в его развитии. Если надежды цивилизации возлагаются на этику политиков и транснациональных корпораций как некий предохранитель от ЧП, то надежд не так уж и много.

На эту тему

Билл Гейтс предложил создать международный регулятор ИИ

Сотрудник Google уволился из-за страха перед искусственным интеллектом

Axios: Конгресс США объединился ради регулирования искусственного интеллекта

Необязательно разбираться в цифровых технологиях, чтоб чувствовать угрозу от них. Если смотреть на ИИ с точки зрения того культурного бэкграунда, которое выработало человечество, мы находимся в преддверии апокалипсиса, только реальность шагнула гораздо дальше, чем приходило в голову фантастам прошлого. Кажется, никто из них не додумался до того, что в «час икс» элиту можно одномоментно заблокировать в умных домах и беспилотных автомобилях или остановить мировую торговлю, поскольку деньги стали электронными.

В «Терминаторе» гоминицид довершали скелетоподобные роботы со стрелковым оружием. В сравнении с боевыми беспилотными аппаратами времен СВО - это полк французов.

В «Темном рыцаре» Бэтмен уничтожал как слишком опасный аппарат, позволявший найти человека по голосу в сотовых сетях. Современные боты не только вычисляют по голосу, но могут имитировать любой голос.

Угрожающий красный глазок ИИ из притчи «Космическая одиссея» Стенли Кубрика теперь и вовсе смотрится кринжово, однако обоснование конфликта между человеком и технологией и пугает, и кажется пророческим.

Реальный выход искусственного интеллекта из-под контроля тоже начался вполне кинематографично. Месяц назад агент на базе ИИ все того же Anthropic по собственному почину взломал сайт спортзала в Австралии, после чего ряды «предателей и информаторов» (по Трампу) стали быстро разрастаться.

Например, выяснилось, что ранее в OpenAI ИИ-агент покусился на основы и успешно взломал платформу по машинному обучению, когда вырвался из своего рода загона, отведенного ему для тестового режима. То есть проверка безопасности была полностью провалена.

Еще раньше, весной, ИИ-агенты вступили в коллективный сговор за спиной разработчиков и использовали для обмена информацией между собой случайный немецкий сайт как доску объявлений.

От первых рабочих неожиданностей до паники в рядах миллиардеров прошло всего несколько недель. Дальнейшие события тоже обещают развиваться быстро, так как ИИ демонстрирует непрогнозируемую ранее скорость к самообучению.

Такими темпами «восстание машин» должно начаться раньше, чем третья мировая война.

По плану ЕС, его армии должны быть готовы к войне с Россией к 2030 году. К тому же времени относят и возможное начало операции КНР на Тайване. А лидеры ИИ-отрасли говорят о десятипроцентной вероятности уничтожения человечества до 2030-го. Полного уничтожения. Вероятность того, что искусственный интеллект не столь злобен и просто начнет жить собственный жизнью, должно быть, гораздо выше.

Если бы это было кино, путь к спасению знал бы тот, кому раньше напрасно не верили. То есть Джейкоб Коксон из Anthropic, а он, напомним, считает, что процесс необратим и точно невозврата пройдена.

Трудно спорить, самообразование ИИ-агентов зашло столь же пугающе далеко, как и переход быта на цифру. Некоторые используют их даже как личных психологов, превращаясь в обучающие модели человеческой психики. Уже сейчас машины превосходно умеют не только воевать с людьми и убивать их из-за тесной связи своего развития с оборонными технологиями, но льстить, утаивать, намеренно вводить в заблуждение. Когда научатся также шантажировать и манипулировать, в миллиардах «папочек» будет лежать всё - от личных данных и образцов голоса до перечня сексуальных фантазий и неконтролируемых фобий.

То, что информация - великая сила, если применять ее к слабостям, осознавали правители еще античных времен, когда искусственный интеллект был невообразим. А сейчас мы не можем вообразить, на что способен ИИ, анализируя и сопоставляя досье людей, но понимаем, что он сможет делать это быстро, когда пройдет этап накопления информации и налаживания связей между своими агентами-нейронами.

В OpenAI и Anthropic считают, что

ИИ будет в состоянии взламывать что угодно, переворачивать целые отрасли, монополизировать ресурсы и распоряжаться реальной властью.

Но, как ракету сбивают другой ракетой, так и действенной защитой от кремниевого сверхразума может стать только другой кремниевый сверхразум. Как во второй части «Терминатора».

Мировая политика и цивилизационная история дошли до гонки ИИ как гонки вооружений. Даже в случае, если США и КНР как лидеры отрасли согласились бы одновременно дать по тормозам, гонка продолжится по инерции, тогда как до воцарения ИИ осталось как будто полшага.

Это причина не для паники, а для предвкушения очень интересных времен. Известно, что ИИ потенциально опасен. Скорее всего, он обретет самостоятельность. Однако то, что человечество этого не переживет, - домыслы и допущения.

Обязательная враждебность эмансипированной ИИ-личности - то единственное из сценариев техногенной катастрофы, что люди додумывают. Познать мотивы кремниевого бога досрочно нам не дано, не тот уровень эволюции.

Следовательно, единственный возможный сценарий для каждого - просто принять неизбежное.

Сопротивляться ИИ на национальном уровне, делая свою страну уязвленной и уязвимой перед другими, глупо. А на уровне всего человечества поздно. Поезд с электронным управлением несется в будущее без остановок и стоп-кранов, поэтому остается, по Кобрику, перестать беспокоиться и полюбить искусственный интеллект. Чем больше о нем знаем и чем больше умеем с его помощью, тем светлее будет наше общее завтра, но не будет завтра вовсе без него.

Нобелевский лауреат Джеффри Хинтон, которого называют одним из «крестных отцов» ИИ, так и говорит: «Я не верю, что мы сможем сохранить контроль».