ИИ на стороне зла: как мошенники пользуются передовыми технологиями

Этот вопрос RuNews24.ru обсудил с двумя экспертами — преподавателем кафедры киберспорта факультета игровой индустрии и киберспорта университета «Синергия» Дмитрием Штаненко и IT-экспертом кафедры киберспортивных технологий того же университета Алексеем Ермаковым.

На днях стало известно о шокирующем инциденте: злоумышленники использовали технологии искусственного интеллекта для имитации голоса министра обороны Италии Гвидо Крозетто и его сотрудников. Эта хитроумная схема привела к тому, что некоторые из самых влиятельных бизнесменов страны, среди которых со-CEO Prada Патрицио Бертелли, дизайнер Джорджио Армани, вице-президент Pirelli Марко Тронкетти Провера и миллиардер Массимо Моратти, стали жертвами мошенников, переведя крупные суммы за границу.

«Как уже говорил ранее, человек не успевает за развитием технологий, особенно если мы говорим о людях старшего поколения. Технологии deepfake и иные нейросети, способные изменять голос и создавать обличие другого человека, сегодня вышли на качественно новый уровень. На сегодняшний момент, как мне кажется, единственным способом избежать возможности обмана со стороны ИИ — это заранее придумать контрольные вопросы для подтверждения тех или иных действий», — отметил Дмитрий Штаненко.

По мнению Алексея Ермакова, есть два основных аспекта проблемы безопасности. Первый заключается в том, что ИИ сегодня может вполне качественно создавать не только картинки, но и аудио- и видеоконтент с заданными параметрами. Но это не так значимо на самом деле.

«Важнее всего то, что не только простые люди, но и люди, от которых зависят важные решения, очень часто просто пренебрегают мерами информационной безопасности и даже просто не соблюдают принципы элементарной информационной гигиены», — объяснил Ермаков.

Некоторые эксперты считают, что подобные инциденты, как случай с министерством обороны Италии, должны стать уро­ком для всех. Важно помнить, что технологии, которые могут принести пользу, также могут быть использованы и в преступных целях.

«Большое количество случаев с пранкерами, казалось бы, должно было научить людей внимательнее относиться к получаемой, хранимой и передаваемой информации. Однако, к сожалению, пока этого не происходит. Поэтому вполне вероятны и более тяжелые последствия от подобных атак в будущем», — заявил специалист.

Компании и отдельные лица должны уделять внимание не только безопасности своей информации, но и образованию в области цифровой грамотности. Это необходимо, чтобы бороться с подобными угрозами. В итоге, только осознание всех рисков и принятие адекватных мер может помочь снизить вероятность обмана и мошенничества в мире, где технологии ИИ становятся неотъемлемой частью нашей жизни.