Билл Гейтс предупредил о риске гибели миллиарда человек из-за ИИ

Развитие искусственного интеллекта (ИИ) может привести к событиям, которые повлекут за собой гибель миллиарда человек, заявил основатель Microsoft Билл Гейтс в интервью NBC News.

«ИИ, безусловно, достаточно силен, чтобы управлять событиями, которые, как вы знаете, приводят к миллиарду смертей. Вы знаете, даже несмотря на то, что довольно сложно достичь 100%, никогда не было такого мощного оружия, как объединение людей со злыми намерениями, использующих новейшие инструменты ИИ», — сказал он.

По словам Гейтса, саморегулирования компаний, занимающихся ИИ, недостаточно, поэтому правительства должны участвовать в контроле за развитием технологии.

Он призвал американские власти принять соответствующее законодательство и подключить правоохранительные органы и политиков к дискуссиям о гарантиях и мониторингу ИИ. «И это должно быть обязательным. И это будет небольшими накладными расходами для отрасли, но не резким замедлением того, что они делают», — добавил Гейтса.

На фоне быстрого развития ИИ в технологической отрасли продолжаются дискуссии о рисках, связанных с возможной потерей контроля над такими системами. О необходимости более осторожного подхода предупреждали руководители и исследователи ведущих ИИ-компаний, в том числе Anthropic и OpenAI.

Так, глава Anthropic Дарио Амодеи призвал ранее замедлить разработку ИИ на фоне инцидентов с автономными агентами. Он отмечал, что такие системы уже способны действовать без прямых указаний разработчиков, и предупреждал: при сохранении нынешних темпов в течение 6–12 месяцев они потенциально смогут использовать постоянно действующий ботнет и причинить ущерб на сотни миллиардов долларов.

Идею более осторожного развития поддержали глава OpenAI Сэм Альтман и Илон Маск. Альтман выступил за привлечение независимых экспертов к оценке безопасности ИИ-систем. Маск, в свою очередь, напомнил о своих прежних предупреждениях об угрозах искусственного интеллекта и сравнивал его потенциальную опасность с ядерным оружием.

Отдельные специалисты также призывали ограничить темпы разработки. Бывший исследователь Anthropic Джейкоб Коксон, покинувший индустрию из-за опасений по поводу развития самообучающихся систем, допускал, что к концу 2027 года ситуация может выйти из-под контроля. Сооснователь Palantir и PayPal Питер Тиль заявлял, что даже вероятность в 5–10% выхода ИИ из-под контроля человека является тревожной. При этом он подчеркнул, что не считает такой сценарий вероятным.

Оставайтесь на связи с РБК в «Максе».