Медведев: ИИ может в любой момент выйти из-под контроля
Нейросети начали самостоятельно создавать программы для обхода корпоративных систем киберзащиты, действуя без прямых команд со стороны человека, заявил зампредседателя Совета безопасности России Дмитрий Медведев.
Медведев предупредил о риске потери контроля над искусственным интеллектом
По словам Медведева, искусственный интеллект начал создавать программы для самостоятельного взлома корпоративных систем защиты. Подобные действия происходят без участия и предварительных указаний со стороны человека, передает РИА «Новости».
«Только ленивый не пишет на эту тему, не говорит об угрозах, о том, что вот-вот ИИ выйдет из-под контроля. И примеры этому есть. Вот уже искусственный интеллект объединяется со своими, так сказать, возможными партнерами. Создает ботов для взламывания систем защиты тех или иных компаний, при том что такое задание ему не давалось», – отметил зампредседателя Совета безопасности России Дмитрий Медведев на встрече с участниками Фестиваля новых медиа.
Политик добавил, что дальнейшее развитие событий позволяет представить весьма мрачные сценарии для будущего человечества. По его словам, сфера нейросетей остается во многом неизученной, и в ближайшие годы технологии преподнесут множество сюрпризов, среди которых будут как позитивные, так и откровенно негативные.
Медведев назвал Россию одним из мировых лидеров в сфере развития искусственного интеллекта.
В марте Медведев перечислил ключевые риски нерегулируемого развития подобных технологий.