Эксперты

  • Должность : Руководитель робототехнического центра
  • Место работы : Фонд «Сколково»
  • Должность : Cтарший научный сотрудник
  • Место работы : ПИР-Центр
Все эксперты

Индекс Безопасности: неучтенные угрозы боевых роботов

28.02.2017

МОСКВА, 28 ФЕВРАЛЯ, 2017. ПИР-ПРЕСС – «Один из главных вопросов использования смертоносных автономных систем заключается в том, что будет означать утрата человеческого контроля над применением силы и каковы ее последствия», – Жиль Джиака, советник по правовым вопросам Международного Комитета Красного Креста (МККК) на круглом столе ПИР-Центра.

Эволюция военного дела связана с развитием технологий так же тесно, как и любая другая сфера государственной или общественной жизни. Образ войны будущего уже довольно давно ассоциируется с участием роботов, вызывая горячие дискуссии в военно-политических кругах и гуманитарных организациях. Особенно острые обсуждения касаются перспектив использования в военных целях смертоносных автономных систем (САС) — боевых машин, в той или иной степени оснащенных искусственным интеллектом и в перспективе способных самостоятельно принимать решения. Вопрос о внедрении такого типа вооружений пока новый для международной повестки, он находится на стыке политических, правовых, технологических и этико-моральных соображений. Именно поэтому выработка единого подхода государств или международных организаций затрудняется.

Какие критерии использовать для определения смертоносной автономной системы? Достаточно ли существующих международных норм для контроля таких роботов на поле боя? Какие угрозы несет в себе использование роботов в зонах боевых действий? По поводу этих и других вопросов на круглом столе ПИР-Центра высказали свое мнение ведущие международные эксперты – научный сотрудник Центра международного права им. Лаутерпахта при Кембриджском университете Том Грант, первый секретарь Департамента по вопросам нераспространения и контроля над вооружениями МИД России Андрей Гребенщиков, советник по правовым вопросам Международного Комитета Красного Креста (МККК) Жиль Джиака, руководитель робототехнического центра Фонда «Сколково» Альберт Ефимов, профессор Сианьской политической академии Синьпин Сун и координатор Кампании против роботов-убийц (Campaign to Stop Killer Robots) Мэри Уорхэм. Модератором дискуссии выступил старший научный сотрудник ПИР-Центра Вадим Козюлин.


Хотя Альберт Ефимов и отметил, что «при нынешнем состоянии искусственного интеллекта сложно даже вообразить роботов-убийц, которые смогут самостоятельно выбирать цели, а значит, нынешние опасения экспертов несколько преждевременны», эксперты считают, что уже на данном этапе необходимо обсуждать связанные с внедрением САС проблемы. Мэри Уорхэм отмечает, что «государствам следует начать обсуждение превентивного запрета на разработку, производство и использование полностью автономных систем вооружений. Это можно сделать, определив необходимую степень значимого человеческого контроля над ключевыми боевыми функциями, в частности при принятии решении о совершении убийства по каждой отдельной атаке». А Красный Крест, по словам Жиля Джиака, обеспокоен тем, что «на нынешнем этапе развития технологий именно автономные системы остаются за рамками обсуждения. Пока что обсуждается не вопрос контроля над полной автономностью, а вопрос о том, контролируются ли такие системы на расстоянии человеком-оператором».

В ходе обсуждения эксперты подробно рассмотрели международно-правовые аспекты использования боевых роботов в военных конфликтах. Синьпин Сун выделил два главных направления нормотворчества, на соблюдении и развитии которых следует сконцентрироваться при использовании САС: «Во-первых, нужно отметить принцип разграничения между военными целями и мирным населением, между комбатантами и гражданскими лицами во время войны. Некоторые САС не соответствуют этому принципу как из-за степени смертоносности их поражающего воздействия, так и по целому ряду других причин. … Второй важный принцип — это принцип пропорциональности. Он гласит, что масштаб разрушений должен примерно соответствовать важности решаемой военной задачи. Некоторые САС могут вызывать настолько масштабные и долгосрочные разрушения, что их применение приведет к нарушению принципа пропорциональности».

Андрей Гребенщиков выразил сомнения российского МИДа в том, что существующих международно-правовых положений для регулирования САС недостаточно: «На наш взгляд, международное гуманитарное право (МГП) в случае его строгого соблюдения уже налагает некоторые ограничения при разработке и использовании таких систем. В частности это относится к часто цитируемому Доппротоколу I 1977 г. к Женевским конвенциям 1949 г., установившему принципы избирательности, пропорциональности и принятия мер предосторожности для защиты гражданского населения».

Полный текст круглого стола «Боевые роботы: угрозы учтенные или непредвиденные?» доступен в новом номере журнала «Индекс Безопасности» №3–4 (118–119) 2016.

По вопросам, касающимся журнала «Индекс Безопасности», вы можете обращаться по электронной почте editor@pircenter.org

 

 

Обсуждение

 
 
loading