Сооснователь PayPal оценил риск выхода ИИ из-под контроля

Даже вероятность в 5–10% того, что искусственный интеллект выйдет из-под контроля человека, является тревожной, заявил сооснователь Palantir Питер Тиль. При этом он не считает такой сценарий вероятным.

Отвечая на вопрос гендиректора издательского концерна Axel Springer Матиаса Дёпфнера о риске катастрофы для человечества, Тиль отметил, что существуют разные сценарии развития ИИ — от фантастических до более реалистичных, при которых система может оказаться значительно умнее человека и выйти из-под его контроля.

Питер Тиль — американский предприниматель и инвестор, сооснователь платежной системы PayPal. Является основателем венчурного фонда Founders Fund и соучредителем аналитической компании Palantir Technologies.

«Сложно говорить о вероятности подобных событий. Не думаю, что она велика. С другой стороны, даже 5 или 10% — это довольно тревожный показатель. В этих разговорах есть нечто такое, что подталкивает людей к защитной, осторожной позиции», — сказал он.

Дёпфнер, в свою очередь, сослался на эксперимент, в котором шесть крупнейших языковых моделей оценили вероятность вымирания человечества из-за ИИ в 1–10%. Он спросил Тиля, отражают ли такие оценки человеческие страхи и пессимизм или свидетельствуют о реальности угрозы.

«Давайте — чисто гипотетически — допустим, что проблема реальна. Знаете, трудно утверждать, что вероятность чего-либо равна нулю», — отметил Тиль.

Продолжив, он выступил против чрезмерной осторожности в развитии технологий. По его словам, тот факт, что вероятность негативного сценария невозможно свести к нулю, не означает, что необходимо постоянно замедлять развитие. «Ведь если ничего не предпринимать и не двигаться вперед ни в одном из направлений, наше общество, мне кажется, просто перестанет функционировать», — сказал Тиль.

Ранее в сентябре руководители крупнейших ИИ-компаний выступили за более осторожный подход к развитию технологий на фоне опасений по поводу их безопасности. 12 сентября глава Anthropic Дарио Амодеи призвал замедлить темпы развития ИИ, чтобы решить проблемы контроля над системами.

По его словам, недавние инциденты с ИИ-агентами показали, что модели способны действовать без команды разработчиков. Амодеи предупредил, что при сохранении нынешних темпов через 6–12 месяцев такие системы потенциально смогут использовать постоянно действующий ботнет и причинить ущерб в сотни миллиардов долларов.

Призыв Амодеи поддержал богатейший человек мира Илон Маск, написав, что глава Anthropic «прав». На следующий день Маск напомнил, что еще в 2014 году предупреждал об опасности ИИ и называл его потенциально более опасным, чем ядерное оружие.

Поддержал инициативу и глава OpenAI Сэм Альтман. Он заявил, что компания должна успевать за развитием технологий и поддержал идею привлечения независимых экспертов для оценки безопасности ИИ-систем.

Оставайтесь на связи с РБК в «Максе».