«Пророк Кремниевой долины» сравнил дилемму ИИ с преследующей авто собакой
Ник Бостром сравнил развитие ИИ с погоней собаки за машиной. В подкасте NYT «пророк Кремниевой долины» предупредил, что человечество стремится к сверхразуму, который «снимет ограничения», не вполне понимая, что последует за этим
«Любимый пророк» Силиконовой долины философ Ник Бостром сравнил современное развитие технологий с погоней собаки за машиной.
В выпуске подкаста The New York Times он рассмотрел не «апокалиптический» сценарий развития ИИ, а «утопический», в рамках которого «сверхразум» способен удовлетворить большинство нынешних потребностей человека и избавить его от множества повседневных обязанностей. По словам Бострома, этот сценарий тоже не лишен философских проблем.
«Какой будет хорошая человеческая жизнь в условиях технологической зрелости» Каким будет наш путь в будущем при этих в некотором смысле идеальных обстоятельствах?» — задается вопросом философ.
Он отметил, что все человеческие изобретения были прежде всего направлены на облегчение деятельности человека. «Возможно, мы приближаемся к тому моменту, когда сможем автоматизировать большую часть процесса изобретения, что радикально ускорит работу. Это наиболее вероятный сценарий, если мы действительно достигнем технологической зрелости. При нашей жизни это, скорее всего, произойдет благодаря машинному сверхинтеллекту», — считает Бостром.
Он подчеркнул, что технологии — это средство, а не цель, но развитие технологий подразумевает в качестве цели именно отсутствие ограничений.
«Но если следовать этой логике, становится гораздо менее очевидным, насколько тщательно мы подходим к достижению этой цели. Это как собака, преследующая машину. Мы не задумывались о том, что произойдет, если нам удастся достичь здесь успеха», — сказал он.
Такую модель будущего он называет «решенным миром». Бостром ставит вопрос: насколько мир, в котором все проблемы решены, подходит для реализации всех остальных целей, которые могут быть у человечества?
Согласно его рассуждениям, значительную часть времяпрепровождения общества «решенного мира» может составлять игра. «По сути, игры — это когда мы ставим перед собой какую-то произвольную цель, чтобы достичь ее, и эта деятельность может казаться нам внутренне ценной», — отметил философ.
По его словам, современные люди могут считать такую жизнь опасной утопией, однако это связано с тем, что сейчас она просто находится за пределами нашего понимания — точно так же, как жизнь современного человека находилась за пределами понимания его предков.
Он также полагает, что у человечества, живущего в «решенном мире», останутся и «реальные цели» — те, что связаны с определенными ценностными традициями и моральным императивом.
Ник Бостром (Бустрём) — шведский философ из Оксфордского университета, директор Института будущего человечества, где изучается влияние технологий на человечество и возможность глобальной катастрофы в будущем.
Его называют пророком Силиконовой долины из-за его «предсказаний» об ИИ, в том числе в книге «Искусственный интеллект. Этапы. Угрозы. Стратегии». Ее основной посыл — экзистенциальный риск, связанный с вероятностью выхода ИИ из-код контроля, поскольку «высокий сверхинтеллект» не равноценен морали и мудрости в понимании человека. Также Бостром допустил, что «сверхразум» будет стремиться заполучить как можно больше ресурсов для гарантии выполнения своих задач, что несовместимо с выживанием биологического вида.
В начале сентября глава Anthropic Дарио Амодеи призвал замедлить разработку ИИ на фоне инцидентов со взломом других платформ агентами OpenAI. Он предупреждал, что при сохранении нынешних темпов агенты ИИ за период от полугода до года потенциально смогут использовать постоянно действующий ботнет и причинить ущерб на «сотни миллиардов долларов».
Оставайтесь на связи с РБК в «Максе».