Как развивается спор Трампа, Альтмана и Амодеи об ИИ и что сказал Китай
Заявление экс-сотрудника Anthropic о том, что разработчики нейросетей допускают скорую гибель человечества из-за ИИ, вызвало в США широкую дискуссию, дошедшую до Трампа. Как развивался спор в последние дни — в инфографике РБК
Гиганты ИИ бьют тревогу
Ведущие разработчики искусственного интеллекта (ИИ) в США поддержали курс на замедление темпов разработки собственных моделей в субботу, 12 сентября. Первым выступил глава Anthropic (разрабатывает Claude) Дарио Амодеи, который в своем блоге призвал сбавить темпы развития ИИ и работать над технологией со сбалансированной скоростью в сотрудничестве со сторонними экспертами и при поддержке правительства. Свою обеспокоенность Амодеи связал с инцидентом у конкурента — компании OpenAI, чьи ИИ-агенты взломали платформу машинного обучения Hugging Face, выйдя из-под контроля разработчиков.
По мнению главы Anthropic, уже через полгода вероятен сценарий захвата интернета подобными ИИ-агентами. Среди прочих рисков он также перечислил утрату контроля над ИИ-системами, их применение для кибератак и биотерроризма, а также серьезные потрясения в экономике. «Гонка на выживание, стимулируемая коммерческими мотивами, может усугубить эти риски», — подчеркнул Амодеи.
Инициативу Амодеи замедлить темпы развития ИИ в тот же день поочередно поддержали глава Tesla и SpaceX Илон Маск и глава OpenAI (разрабатывает ChatGPT) Сэм Альтман, а также главный научный сотрудник Alphabet (материнской компании Google), соучредитель и председатель Google DeepMind Демис Хассабис. «Суббота может войти в историю как день, изменивший ИИ, когда крупные представители отрасли поклялись ограничить свои действия», — отмечает издание Axios.
Толчком к дебатам в США о рисках ИИ стали вирусные публикации бывшего сотрудника Anthropic и OpenAI Джейкоба Коксона, который уволился из Anthropic 8 сентября, о чем он рассказал в соцсети X. Коксон сопроводил свое сообщение утверждением, что создатели ИИ верят в его способность погубить человечество «к концу десятилетия», а также обвинил Anthropic и OpenAI в «игре с нашими жизнями» в стремлении разработать передовые модели ИИ.
Уход Коксона стал одним из первых примеров того, как сотрудник Anthropic покинул компанию, руководствуясь опасениями в сфере безопасности ИИ. По информации The Wall Street Journal (WSJ), ряд работников OpenAI и других компаний — разработчиков ИИ также увольнялись, ссылаясь на похожие причины.
Возражения Трампа
С противоположной позиции в дискуссию вступил американский инвестор и бывший советник президента США Дональда Трампа по ИИ и криптовалюте Дэвид Сакс. В своей публикации в соцсети X он предложил OpenAI и Anthropic добровольно замедлить темпы развития своих моделей ИИ, не дожидаясь правительственных директив. В противном случае, по мнению Сакса, заявления глав компаний будут «очередной попыткой подчинить себе регулирующие органы или психологической операцией в преддверии выборов». «Прежде всего, перестаньте делать вид, что стремление замедлить развитие обусловлено исключительно альтруистическими мотивами», — заявил Сакс, обращаясь к Амодеи и Альтману.
В свою очередь, отвечая на вопрос журналистов о том, следует ли США замедлить темпы развития ИИ или усилить его регулирование, американский президент Дональд Трамп заявил, что намерен обеспечить сохранение лидерства страны в этой отрасли. «Мы опережаем Китай в области ИИ. Мы — самая передовая страна в мире, и, честно говоря, я хочу, чтобы так и оставалось, потому что победит тот, кто победит в сфере ИИ», — сказал Трамп 13 сентября (цитата по Reuters). Он также добавил, что «очень негативные силы» порождают преувеличенные опасения вокруг ИИ.
Reuters отмечает, что Трамп «сопротивляется разжиганию опасений по поводу ИИ», а в течение второго срока его администрация в значительной степени поддерживала ИИ-компании, чьи руководители финансировали предвыборную кампанию перед промежуточными выборами в американский конгресс 3 ноября. Ранее Трамп заявлял, что его не беспокоит обсуждаемая экзистенциальная угроза от ИИ. «Я опасаюсь, что если мы не добьемся успеха в области ИИ, то окажемся в очень плохом положении», — заявил он 10 сентября (цитата по Politico).
Вопрос для обсуждения с Пекином
13 сентября Дарио Амодеи заявил телеканалу CBS, что «самая сложная дилемма» его предложения о замедлении развития ИИ состоит в том, что произойдет, если Китай и другие государства откажутся следовать тому же курсу. По его словам, небольшим шагом вперед стало бы согласие Вашингтона и Пекина не применять ИИ для создания биологического оружия, а затем «совместными усилиями ограничить темпы развития ИИ». «Все это выше моих полномочий. Я понятия не имею, как вести переговоры с Китаем», — подчеркнул глава Anthropic.
На следующий день Сэм Альтман подчеркнул, что предложенное замедление развития темпов ИИ не означает «остановку». «Прогресс идет быстрыми темпами и будет продолжаться. Однако он должен быть медленнее», — написал он в соцсети X, добавив, что он видит помощь американских властей прежде всего в вопросах международной координации. Глава OpenAI также привел два негативных сценария, которых при развитии ИИ, по его мнению, следует избежать, — это потеря контроля человечества над собственным будущим и формирование мира с чрезмерной концентрацией власти в руках одного человека или одной компании.
Между тем, по мнению Дональда Трампа, заявления глав ведущих американских компаний в области искусственного интеллекта представляют собой «безумный заговор против ИИ и дата-центров, и единственный, кто этому рад, — это Китай». Американский президент написал 14 сентября в соцсети Truth Social, что Белый дом уже обладает значительными полномочиями в сфере регулирования технологических компаний, сравнив Амодеи с человеком, притворяющимся «идеальным маленьким ангелом».
Дискуссия американцев об опасности ИИ получила отклик и в Китае. «Раздувание различных угроз, вступление в конфронтацию и злонамеренная конкуренция только помешают процессу глобального регулирования искусственного интеллекта и не отвечают интересам ни одной из сторон», — заявил официальный представитель МИД КНР Го Цзякунь на брифинге 14 сентября. По данным источников Reuters, США и Китай намерены обсудить между собой риски для безопасности передовых технологий ИИ — этот вопрос может быть включен в повестку встречи глав государств Дональда Трампа и Си Цзиньпина, запланированной в Вашингтоне 24 сентября.