CNN: Американские военные едва не перехватили судно КНР из-за ошибки ИИ
Сгенерированный нейросетью ложный разведывательный отчет о перевозке ядерных компонентов чуть не спровоцировал вооруженный конфликт между американскими и китайскими военными на Ближнем Востоке, сообщил телеканал CNN.
По информации CNN, Вооруженные силы США минувшей весной едва не перехватили китайское судно на Ближнем Востоке из-за недостоверного отчета, созданного нейросетью, передает ТАСС. Военнослужащие уже начали подготовку к операции, а американские самолеты поднялись в воздух.
Незадолго до начала миссии военные тщательно проверили аналитический документ. Оказалось, что использованный аналитиком чат-бот неверно определил груз на борту судна. «Отчет был полностью ложным», – заявил источник телеканала, отметив, что инцидент едва не привел к полномасштабной войне.
Американская операция против китайского корабля несла серьезные риски вооруженного конфликта между двумя державами. Выяснилось, что аналитик запросил у искусственного интеллекта анализ данных о судовом манифесте, полученных от Тихоокеанского командования спецопераций США. Система совместила открытую информацию с секретными сведениями радиоэлектронной разведки и сделала ошибочный вывод.
Затем сотрудник вновь использовал чат-бот для оформления выводов в стандартный разведывательный отчет, которому обычно доверяют военные, и распространил документ. Американское разведывательное сообщество все активнее внедряет искусственный интеллект для анализа данных и выбора целей, однако единые правила проверки сгенерированной информации пока отсутствуют.
Ранее американский генерал Дэн Кейн назвал искусственный интеллект ключевым элементом современных боевых действий.
Министр государственной безопасности КНР Чэнь Исинь счел эту технологию главным фактором будущих войн.
Весной эксперт Игорь Бедеров предположил вероятность ошибочного авиаудара США по иранской школе из-за неверных данных нейросети.