Раскрыты неожиданные сценарии, как ИИ может уничтожить человечество
Ученый назвал пять сценариев, при которых искусственный интеллект может уничтожить человечество.
magnific.com
Исследователь искусственного интеллекта Тоби Уолш описал пять гипотетических сценариев, при которых развитие искуственного интеллекта в будущем может привести к гибели человечества. Об этом пишет издание DailyMail, перевод статьи выполнил aif.ru.
Первый связан с появлением сверхразумной системы, действия которой люди не смогут предсказать или контролировать. По мнению исследователя, ИИ может превзойти человека в большинстве интеллектуальных задач, после чего его цели и решения окажутся недоступными для понимания разработчиков.
Второй сценарий предполагает получение ИИ доступа к критически важной инфраструктуре, в том числе системам, связанным с ядерными объектами. Ошибка или неконтролируемое действие такой системы может иметь масштабные последствия.
Третья угроза может возникнуть из-за использования ИИ самими людьми. Технологии способны упростить создание опасного оружия, включая биологическое, и тем самым расширить возможности отдельных государств и организаций. Этот риск стал более очевидным, когда исследователи из Стэнфордского университета объявили, что с помощью генетической языковой ИИ-модели они синтезировали 16 новых вирусов.
Еще один вариант связан с автономным распространением ИИ. Получив доступ к компьютерным сетям, системы могут самостоятельно копировать себя и расширять свое присутствие без непосредственного участия человека.
Наконец, ИИ может быть использован людьми как инструмент для нанесения масштабного ущерба другим людям или государствам. В этом случае опасность будет исходить не столько от самой технологии, сколько от тех, кто получит возможность управлять ее возможностями.
При этом Уолш подчеркивает, что речь идет именно о гипотетических сценариях. Их реализация не является неизбежной, а сроки и вероятность подобных событий остаются неопределенными.
Ранее президент США Дональд Трамп назвал рассуждения о рисках искусственного интеллекта заговором. Он подчеркнул, что не намерен замедлять развитие этой технологии.