Искусственный интеллект в военной сфере: угрозы и новая гонка вооружений

Вадим Козюлин

В настоящее время в мире разворачивается процесс, который можно было бы назвать «технологическим диктатом» (Technological Predominance или Technological Dictatorship): появляющиеся технологии требуют их внедрения в военной области для модернизации существующих или создания новых вооружений. В мире не найдется военного или политика, который бы признал, что стратегические решения (например, в системах раннего предупреждения) принимаются искусственным интеллектом (ИИ). Однако сегодня мир знаком лишь с так называемым «слабым» ИИ. Мы приближаемся к появлению «сильного» ИИ, а в перспективе – супер-ИИ. Предположительно, развитие технологий подведет человечество к моменту, когда ИИ получит и функции принятия решений, в том числе – стратегических. Технологическая революция подталкивает человечество к гонке вооружений, в которой отстающий может отстать навсегда. В данной аналитической статье рассматриваются проблемы взаимодействия "человек - ИИ" и тенденции новой гонки вооружений в сфере военного ИИ, а также обосновывается необходимость широкого обсуждения обозначенных угроз и проблем.

Читать аналитическую статью на сайте ПИР-Центра

ГЛАВНОЕ 

Сегодня можно выделить три группы угроз, связанных с автономными боевыми системами и военным искусственным интеллектом:

1. Meaningful Human Control – единственная, замеченная общественностью проблема, которая обсуждается в рамках Конвенции о запрещении или ограничении применения конкретных видов обычного оружия;
2. Strategic stability – автономные вооружения сегодня приобретают потенциал для того, чтобы влиять на стратегическую стабильность. Они позволяют увеличить проекцию силы, они делают океаны более транспарентными, и в перспективе смогут обнаруживать и преследовать атомные подводные лодки с баллистическими ракетами (ПЛАРБ);
3. C3ISR Outsourcing – передача функций человека машине, программе на основе ИИ. Пока ИИ выполняет вспомогательные функции: собирает и анализирует информацию, готовит данные для принятия решения человеком.

• Процессы ускоряются, и в военном отношении это означает, что время на оценку и принятие решения сокращается. ИИ будет разрабатывать варианты сценариев и предлагать их для выбора человеку. На каком-то этапе человек станет помехой, тормозом в процессе принятия решений. Технологии диктуют, что и процесс принятия решения однажды тоже должен быть передан автомату. Сигналом этого служит тот факт, что в США недавно был поднят вопрос о необходимости создания автоматической системы применения ядерного оружия, подобной системе «Периметр», которую на Западе называют Dead Hand.
• В сегодняшнем мире невозможно добиться такого военного и технологического превосходства, которое бы обеспечило безопасность какого-либо государства. Наоборот, мы видим, что прогресс военных технологий лишь усугубляет международную безопасность, инициирует гонку вооружений, заставляет человечество тратить гигантские средства на создание новых систем: на новой высоте – в космосе, на новых скоростях – гиперзвуковых, на новых принципах – с использованием ИИ.
• Технологический диктат потребует, чтобы человечество потратило колоссальные средства на обновление вооруженных сил. Эти средства было бы возможно потратить на решение острых глобальных проблем, которых в мире множество: экология, исчерпание био- и энергоресурсов, бедность, миграция. В этой связи возникает вопрос: что требуется, чтобы признать эту простую логику и взяться за исправление ситуации?

ОБ АВТОРЕ

КОЗЮЛИН ВАДИМ БОРИСОВИЧ

Директор проекта по новым технологиям и международной безопасности ПИР-Центра, член Совета ПИР-Центра; Член Экспертного совета по международному гуманитарному праву ГД РФ; Участник «Международной панели по регулированию автономных систем вооружений» (International Panel on the Regulation of Autonomous Weapons Systems).

Канд. полит. наук, профессор Академии военных наук. В 1990 году окончил МГИМО МИД СССР. Работал в МИД СССР/РФ, затем в отделе эксклюзивной информации газеты Московские Новости, был представителем РГП "Казспецэкспорт" в России. В 2000-2002годах обучался во Всероссийской академии внешней торговли по программе "Менеджмент в сфере военно-технического сотрудничества". Тесно сотрудничает с компаниями- спецэкспортерами стран СНГ и дальнего зарубежья. Защитил диссертацию по теме: "Совершенствование политических механизмов влияния военно-технического сотрудничества на региональную стабильность в Центрально-Азиатском регионе". Сфера научных интересов – ВТС России с зарубежными государствами, региональная стабильность в Центральной Азии и Афганистане. Научный сотрудник ПИР-Центра с 1994 года.

О СЕРИИ

Серия «Индекс Безопасности» – доклады, аналитические статьи, комментарии и интервью, которые отражают позиции российских и зарубежных экспертов по актуальным вызовам глобальной безопасности и политики России в этой сфере. Задача серии – дать понятный анализ проблем международной безопасности и предложить для них конкретные и реалистичные решения. Серия приходит на смену журналу «Индекс Безопасности», издаваемому ПИР-Центром в 1994 – 2016 гг. Авторы и редакторы серии будут рады комментариям, вопросам и предложениям, которые читатели могут направить на электронную почту [email protected].

Читать