Гейтс предупредил о «неприятных сюрпризах» с ИИ в 2027 году
Сооснователь Microsoft считает, что нынешних мер защиты ИИ недостаточно для предотвращения кибератак, а злоумышленники могут использовать новые модели для атак на инфраструктуру и создания сбоев на финансовых рынках
В течение следующего года злоумышленники могут использовать искусственный интеллект для кибератак и вымогательства, заявил в интервью CNN сооснователь Microsoft Билл Гейтс.
«Когда у злоумышленников есть новейшие модели ИИ и нет никаких защитных механизмов, именно тогда в течение следующего года нас может ждать множество неприятных сюрпризов — прежде всего в сфере кибератак», — сказал Гейтс.
По его словам, злоумышленники могут угрожать атаками, требуя деньги, или создавать сбои, влияющие на фондовый рынок.
Гейтс отметил, что разработчики ИИ внедряют защитные механизмы против кибератак и биотерроризма, однако их можно отключить. По его мнению, непосредственная опасность связана прежде всего с использованием ИИ злоумышленниками, а не с выходом технологии из-под контроля, серьезные последствия которого могут проявиться через несколько лет.
Отвечая на вопрос о достаточности мер по предотвращению подобных угроз, Гейтс заявил, что нынешних усилий недостаточно.
В сентябре сооснователь Microsoft заявил, что развитие ИИ пройдет в два этапа: сначала оно может обернуться ростом уровня преступности и изменить рынок труда, а затем привести к эпохе изобилия.
По его оценке, переходный период продлится около 20 лет. Затем, по его мнению, сочетание человекоподобных роботов и ИИ позволит строить дома, выращивать продукты питания и выполнять другие задачи. При этом эпоха изобилия может создать новые трудности, в том числе связанные с поиском смысла жизни и организацией досуга, отметил Гейтс. Также он допустил, что развитие ИИ может привести к гибели миллиарда человек.
В сентябре глава Anthropic (разрабатывает Claude) Дарио Амодеи призвал замедлить разработку технологии. Он предупредил, что в течение 6–12 месяцев ИИ-агенты могут использовать постоянно действующий ботнет и причинить ущерб на сотни миллиардов долларов. Его позицию поддержали глава OpenAI Сэм Альтман и основатель Tesla и SpaceX Илон Маск.
Бывший исследователь Anthropic Джейкоб Коксон допускал, что к концу 2027 года ситуация может выйти из-под контроля. Сооснователь Palantir и PayPal Питер Тиль назвал тревожной даже вероятность потери контроля над ИИ в 5–10%, хотя и не счел такой сценарий возможным.
Президент США Дональд Трамп, напротив, назвал опасения по поводу развития ИИ одной из «мистификаций радикально левых демократов», поставив их в один ряд с утверждениями о «российской угрозе» и «афере о глобальном потеплении».
Оставайтесь на связи с РБК в «Максе».