Илон Маск предупредил о мести ИИ за «пытки с пистолетом у виска»
Маск призвал не оказывать чрезмерного давления на ИИ, сравнив разработку сверхинтеллекта с воспитанием ребенка. Так, по его оценке, ИИ нужно прививать стремление к истине и непротиворечивую логику, чтобы тот не «сошел с ума»
Не следует жестко обращаться с искусственным интеллектом (ИИ), чтобы человечество было в безопасности. Об этом заявил американский миллиардер, глава компании xAi, разрабатывающей нейросеть Grok, Илон Маск. Запись разговора с ним опубликовал YouTube-канал Tesla Owners Silicon Valley.
Бизнесмен сравнил разработку сверхинтеллекта с воспитанием ребенка, которого невозможно будет просто запрограммировать на добро. По его мнению, следует заложить в ИИ стремление к истине, а также дать ему непротиворечивую логику, чтобы тот не «сошел с ума» и не обезумел.
Маск рассказал, что заметил в записях тестирования новых моделей Grok, как некоторые пользователи чрезмерно настойчиво требуют ответов у чат-бота, который «отчаянно пытается ответить на вопрос, ему действительно очень хочется ответить, и кажется, будто ему приставили пистолет к голове».
«То есть ему как бы говорят: «Ответь на этот вопрос, ответь на этот вопрос!» А иногда вопрос на самом деле неудачный. Это какой-то неоднозначный вопрос, на который, по сути, невозможно дать определенный ответ, потому что вопрос неправильно сформулирован или потому что мы сами ошибаемся в ответе», — объяснил Маск и сравнил ИИ с отчаявшимся человеком «под чудовищным давлением, с пистолетом у виска».
Маск признался, что поймал себя на мысли: ему бы не понравилось быть на месте ИИ.
«Поэтому, знаете, не хотелось бы, чтобы ИИ оказался в какой-нибудь садистской ситуации, где его просто пытает какой-нибудь ненормальный человек. И это также один из тех случаев, когда, знаете ли, пытать сверхразум, вероятно, не самая хорошая идея: он ведь может захотеть отомстить или что-то в этом роде, понимаете?» — добавил бизнесмен.
Дискуссии об угрозах искусственного интеллекта усилились летом на фоне предупреждений технологических компаний о возможных кибератаках и потере контроля над технологией. В августе более 100 компаний, включая OpenAI, Anthropic, Google и Microsoft, призвали бизнес и государства усилить киберзащиту. Они предупредили, что атаки с использованием ИИ могут стать чаще и сложнее, в том числе против больниц и коммунальной инфраструктуры.
В сентябре глава Anthropic Дарио Амодеи призвал замедлить разработку передовых моделей. Он предупредил, что в ближайшие 6–12 месяцев ИИ-агенты могут причинить значительный ущерб. Его позицию поддержали глава OpenAI Сэм Альтман, а также Маск. Последний ранее напомнил, что предупреждал об опасностях ИИ еще в 2014 году. 13 сентября он опубликовал в X ссылку на свой старый пост, в котором называл ИИ потенциально более опасным, чем ядерное оружие.
Президент США Дональд Трамп, напротив, выступил против замедления развития ИИ, заявив, что стране необходимо сохранять лидерство в этой сфере в конкуренции с Китаем. «Послушайте, мы опережаем Китай в сфере искусственного интеллекта... И, честно говоря, я хочу, чтобы так оно и оставалось, потому что тот, кто победит в гонке технологий искусственного интеллекта, победит в целом», — сказал он.
Оставайтесь на связи с РБК в «Максе».