Foreign Policy рассказал, как ИИ изменил подход к военной этике

Развитие искусственного интеллекта и автономных систем вооружения ставит под сомнение многолетние этические нормы ведения боевых действий, пишет Foreign Policy.

По мере того как ИИ все чаще берет на себя функции принятия решений, порог начала военных конфликтов снижается, а контроль над ними усложняется. Технологический прогресс создает опасную дистанцию между лицом, принимающим решение, и непосредственным актом насилия. Машины лишены способности к милосердию — качества, которое не только делает войну более гуманной, но и создает условия для последующего мира, отмечает издание.

В центре дискуссии оказалась энциклика Папы Льва XIV Magnifica Humanitas, посвященная защите человеческого достоинства в эпоху ИИ. В документе папа выразил скептицизм относительно актуальности теории «справедливой войны» — концепции, которая веками служила фундаментом для определения правомерности и целесообразности конфликтов.

По мнению понтифика, эта теория слишком часто использовалась политиками для оправдания любых военных действий. Он подчеркнул, что в современном мире акцент должен смещаться в сторону дипломатии и диалога, ставя под вопрос саму возможность «классической войны» в XXI веке.

Существует серьезная угроза того, что алгоритмы могут стать «алиби»: когда в боевых действиях участвуют машины, юридически становится крайне сложно определить намерения сторон. В связи с этим и Ватикан, и оборонные ведомства, включая Пентагон, сходятся в одном: необходимо создание «идентифицируемой и проверяемой цепочки ответственности» — от разработчиков и обучающих систем до тех, кто дает санкцию на применение автономного оружия.

Теория справедливой войны — традиция военной этики, которая устанавливает правила для определения того, является ли война морально оправданной (jus ad bellum) и как ее вести (jus in bello).

Доктрина опирается на ряд ключевых принципов:

война оправдана только для самообороны от агрессии или защиты жертв нарушений прав человека;

все мирные способы урегулирования спора должны быть исчерпаны;

решение о начале конфликта должно приниматься только легитимным правительством или международным органом;

цель войны должна заключаться в установлении мира и справедливости.

масштаб разрушений не должен превышать пользу /защиту справедливости;

отказ от методов, приносящих чрезмерные страдания.

Однако, по мнению авторов рассмотренного Foreign Policy исследования — Энтони Пфаффа (Военный колледж армии США) и Патрика Грэнфилда (экс-директора по стратегическим коммуникациям в Минобороны США) — отказ от теории «справедливой войны» может стать опасным прецедентом.

«Если отбросить доктрину справедливой войны, государства не станут пацифистами, а военачальники — этиками. Они просто утратят единый понятийный стандарт, по которому войны оценивались и ограничивались на протяжении веков», — утверждают авторы.

Эксперты полагают, что теорию не нужно заменять, а необходимо переосмыслить. Новые стандарты должны учитывать специфику опосредованной войны, где технологии позволяют сторонам дистанцироваться от ее издержек. Традиционные критерии — соразмерность силы, необходимость защиты гражданского населения и использование войны как крайней меры — остаются важнейшими инструментами.

В апреле американский разработчик ПО для армии и спецслужб Palantir опубликовал манифест из 22 пунктов, который призвал Кремниевую долину отказаться от пацифизма в пользу милитаризации, разработки ИИ-оружия и обслуживания государственных интересов.

Вскоре вице-адмирал ВМС Германии Томас Даум сообщил что страна не намерена пользоваться продукцией Palantir, и что Вооруженные силы ФРГ заняты разработкой собственного программного обеспечения. В июне от услуг Palantir отказалась и французская разведка, чтобы «не зависеть от доброй воли определенных партнеров».

Оставайтесь на связи с РБК в «Максе».