ПИР-25: новые технологии и международная безопасность

30 апреля 2019

Сфера нераспространения была приоритетом для ПИР-Центра с первых дней его существования. Но несколько лет назад на поле стали происходить быстрые технологические изменения: в мире получили распространение автономные роботы, искусственный интеллект, гиперзвуковые аппараты. Можем уверенно сказать, что ПИР-Центр заметил их одним из первых. Так возникла программа «Новые технологии и международная безопасность».

Уже в 2016 году ПИР-Центр привлек внимание к возникающим рискам, организовав международную конференцию «Повестка 21 века – новые технологии и вызовы глобальной безопасности».

С тех пор мы опубликовали несколько исследований, описывающих основные группы угроз, связанных с появлением смертоносных автономных систем и использованием продуктов на базе искусственного интеллекта в системах военной связи и управления, разведки и анализа собранных данных, системах раннего ракетного предупреждения, управления ядерным оружием.

Эти системы постоянно совершенствуются, регулярно возникают новые технологии, которые добавляют существующим вооружениям новые способности. На каком-то этапе происходит качественный скачок, и возникает новая ударная система, в своем роде «супероружие».

От аналитика требуется держать руку на пульсе, следить за технологическими новинками, и пытаться предвидеть, куда поведет военную науку очередная «прорывная» технология. Хорошим подспорьем в этом служит обмен знаниями и мнениями с зарубежными коллегами. В этом очень помогают конференции на самых различных площадках от МГИМО до ООН, а также – членство в Международной панели по регулированию автономных систем вооружений (International Panel on the Regulation of Autonomous Weapons Systems – IPRAW), где я – единственный представитель от России.

Сегодня мнение сотрудников ПИР-Центра по проблематике новых технологий и вызовов глобальной безопасности хотят услышать не только на многих международных форумах. ПИР-Центр подготовил курс лекций по основным «беспокоящим» технологиям, и фактически участвует в формировании экспертной среды по этой теме в России и за рубежом.

Я вижу проблему в том, что ментально человечество еще живет в 20 веке, не представляя, какие последствия несут нам новые технологии. В оборот политологов снова вернулись забытые термины «стратегическая стабильность» и «баланс сил». Эксперты заговорили о «холодной войне – 2». Родились и новые устрашающие концепции: Prompt Global Strike, Third offset strategy и Defense Innovation Initiative. Сегодня человечество вплотную подошло к размещению ударных вооружений в космосе.

Мир продолжает жить по правилам 20 века, которые по-прежнему задает и диктует Вашингтон, сохраняющий лидерские позиции и стремящийся сохранить их в будущем.

Правила сохранились, но мир существенно изменился.

Вооруженные силы трансформируются. Эти изменения можно проследить на примерах возникновения новых видов вооружений:

Противоракетная оборона
Кибер-войска и киберкомандование
Космические войска
Разведка на базе искусственного интеллекта
Средства информационной войны
Новые средства радиоэлектронной борьбы
Электронное противодействие
Лазерное оружие
Беспилотный транспорт
Робототехнические комплексы
БПЛА
Средства борьбы с БПЛА
Гиперзвуковые аппараты.
Регулярно возникают новые технологии, которые ускоряют процессы сбора и анализа информации, автоматизируют принятие и исполнение решений:

Интеллектуальные самообучающиеся цепочки поставок
Интернет вещей
Облачная логистика
Робототехника и автоматизация
Беспилотные перевозки
БПЛА
Цифровой идентификатор
Прогнозное снабжение и обслуживание.
В формуле человеческого общежития появилась новизна, изменяющая ситуацию в сфере международной безопасности:

Благодаря новым технологиям в мире возникают колоссальные военные потенциалы, делающие практически невозможным полноценные военные конфликты. Риск невосполнимого ущерба становится глобальным.
Интеграционные процессы на планете ведут к глубокой взаимозависимости государств в экономической, финансовой, информационной, инфраструктурной с прочих сферах.
Мир становится прозрачным благодаря спутникам слежения различного назначения, социальным сетям, интернет-ресурсам, регистрирующим передвижение судов и самолетов, программам удаленного контроля и управления различным оборудованием, системам обновления программного обеспечения. Сегодня на орбите находится около двух тысяч спутников, из которых несколько сотен принадлежат коммерческим компаниям.
Критическая инфраструктура практически любой страны сегодня уязвима. При этом масштаб уязвимости трудно оценить или предсказать. Современные технологии позволяют использовать интернет-пространство как в мирных, так и в деструктивных целях. Оно может быть «заминировано», и пока ни один субъект, имеющих выход в глобальную сеть, не может быть уверен, что он застрахован от «кибер-мины». Кибератака на энергосистему Венесуэлы в марте 2019 года служит иллюстрацией уязвимости инфраструктуры страны.
То есть мы, скорее всего, уже живем в мире, где большой конфликт невозможен, хотя еще возможны локальные. Это нас в какой-то мере объединяет.

Новые технологии требуют осторожного обращения, поскольку из истории известно, что в прежние времена они могли диктовать лидерам модель поведения и провоцировать конфликты. Некоторые исследователи считают, что именно так случилось в начале 20 века, когда новые технологии – телеграф, железные дороги, всеобщая воинская повинность и мобилизационный план – столкнули европейские державы в пропасть Первой мировой войны.

Сегодня мы наблюдаем схожие процессы в военной сфере, когда использование искусственного интеллекта для сбора и анализа информации, применение программ для связи, управления, автоматизации процессов выработки сценариев и принятия решений, что я называют аутсорсингом сферы C3IRS, могут стать причиной масштабного военного конфликта.

Человечество не забыло опыт «мирного сосуществования» в условиях «холодной войны». Мы помним, что можно сохранять мир и в тревожном состоянии запредельной вооруженности. Для такой модели человеческого общежития в 20 веке цивилизация выработала механизмы разрядки, которые применимы и сегодня:

Контроль над вооружениями
Меры доверия и транспарентности
Горячие линии связи
Встречи экспертов, военных, дипломатов
Обмены культурные, студенческие и др.
Но в 21 веке человечество стоит перед вызовами, которые требуют общих усилий и согласованных действий. Сегодня востребована новая политика и новые лидеры, которые могли бы сплотить человечество для решения общих задач на основе единых ценностей и единых целей.

Иногда шутят, что объединить Восток и Запад могла бы общая угроза, например, нашествие марсиан. Однако, у нас уже имеются общие угрозы, которые обещают уничтожить человечество без вторжения из космоса.

Первая – это серьезная угроза экологической катастрофы.

Человечество живет в неверном ожидании того, что технологии станут ключом для решения проблем и в этой области, а возобновляемая энергетика избавит будущие поколения от поиска комплексных решений, требующих изменения образа жизни.

Между тем доклад Римского клуба «Come On! Capitalism»[1] указывает на системную ошибку – неверные ориентиры и критерии успешности, выбранные человечеством. Пример – такой показатель, как валовый внутренний продукт, который авторы называют продуктом мышления «пустого мира». Он отражает траты, скорость, с которой деньги движутся в экономике, а не благополучие или субъективное счастье, и не видит блага, существующие вне рынка. Этот показатель стал фактором, оказывающим постоянное воздействие на политические решения, но в его структуре заложено стремление к неограниченному росту.

Серьезные научные свидетельства подтверждают, что в последние несколько десятков лет появилось пять взаимосвязанных отрицательных тенденций, пять глобальных кризисов:

Изменение климата;
Начало массового вымирания и уменьшение биоразнообразия;
Разрушение экосистем, что в свою очередь разрушает человеческие системы жизнеобеспечения;
Загрязнение почвы, воды и воздуха вредными выбросами, которые негативно влияют на базовые биологические процессы, вызывают тяжелые заболевания и подрывают способность людей справляться с другими проблемами;
Быстрый рост человеческой популяции, сопровождающийся старыми моделями производства и потребления.
Экологические проблемы будут усугублены социальными вызовами, связанными с перспективой тотальной роботизации производства, высвобождением массы низкоквалифицированных работников и появлением «новых низкоквалифицированных».

Вторая угроза – мы вступаем в эпоху, когда роль человека может быть сведена к минимуму, а понятие человеческое достоинство может быть маргинализировано как за счет обесценивания человеческого труда, так и за счет того, что «искусственный интеллект», а точнее – «искусственный разум», превзойдет человеческий, вытеснит его не только из сферы производства, но также – сервиса, и даже творчества, возможно – политики.

Сегодня ни одно правительство не готово к последствиям массовой автоматизации производства.

Об этих угрозах многое известно и немало написано, однако, они еще не стали поводом для изменения подходов к правилам человеческого общежития.

Вероятно, проблема связана с ослаблением института нравственного лидерства на планете, дефицитом признанных политических, религиозных, философских авторитетов.

Мы видим распространяющуюся нестабильность, неудовлетворенность населения развитых стран положением в мире, личным неблагополучием, мы наблюдаем разобщенность, идейный вакуум относительно дальнейшего развития человеческого общества. Человечеству необходимо новое целостное гуманистическое мировоззрение, нацеленное на будущее и устойчивое развитие. Коллективная мудрость цивилизации нацелена на поиск баланса:

В отношениях между человеком и природой;
Между кратковременной и долговременной перспективой;
Между скоростью и стабильностью — изменения и прогресс не должны восприниматься в качестве самоценности.
В октябре 1987 года Михаил Горбачева в своей книге «Перестройка и новое мышление для нашей страны и всего мира» изложил концепцию «нового мышления», которая включала в себя[2]:

Приоритет общечеловеческих ценностей над классовыми ценностями, отказ от классовой борьбы и деидологизация внешней политики;
Решение конфликтов не военным, а политическим путем, то есть построение международных отношений на основе баланса интересов и взаимной выгоды, а не соотношения сил;
Признание мира единым, отказ от концепции разделения на социалистов и капиталистов;
Строгое соблюдение принципа равноправия во взаимоотношениях и невмешательство во внутренние дела;
Признание права каждого народа выбирать свою судьбу;
Констатацию факта, что безопасность может быть только взаимной.
Идеи Михаила Горбачева не стали глобальным моральным ориентиром: на Западе они были истолкованы, как проявление слабости и готовности к уступкам. В памяти россиян горбачевское понятие «новое мышление» также имеет глубоко отрицательный смысл.

Мир упустил шанс гармонизировать правила человеческого общежития в 20 веке, и за это наказан сегодняшними кризисами и будущими рисками.

21 век ожидает новых концепций устойчивого развития. Вероятно, мир станет свидетелем соревнования моделей управления и образования в эпоху климатических изменений и роботизации производства и общественной жизни на планете. Возможно, они будут исходить из того, что:

Человечеству необходимы глобальные правила, обязательные для всех стран. Отдельные государства не вправе начинать проекты, последствия которых могут затронуть всю планету;
Забота о будущих поколениях и сохранении разнообразия природы и ее богатств должны стать главенствующим принципом при освоении недр и развертывании производств;
Общество должно устанавливать правила для рынков, а не наоборот;
Законы капитализма – конкуренция и рынок – не универсальны, и нередко деструктивны;
Государства обязаны обеспечивать социальную справедливость, баланс между равенством и справедливым вознаграждением;
Массово производимые продукты должны быть по возможности многоразовыми, оптимизированными для ремонта и повторного использования.
За 25 лет в ПИР-Центре и вокруг него сформировалось динамичное сообщество неравнодушных людей, где молодым экспертам есть возможность поучиться у опытных «знатоков», а «знатокам» – напитаться новыми идеями и энергией у молодежи. Поэтому у ПИР-Центра есть два бинокля: через один мы смотрим в прошлое, а через другой – в будущее. В этом вижу маленькую модель творческой среды, в которой возможно найти решения для проблем и глобального уровня.

[1] von Weizsaecker, E., Wijkman, A. Come On! Capitalism, Short-termism, Population and the Destruction of the Planet. — Springer, 2018.

[2] К. Н. Брутенц Несбывшееся. Неравнодушные заметки о перестройке.- М.: Международные отношения, 2005. С.132.