ПИР-Репортаж
В Женеве прошла вторая Глобальная конференция UNIDIR по искусственному интеллекту, безопасности и этике (Global Conference on AI, Security and Ethics 2026), организованная в рамках проекта UNIDIR Roundtable for AI, Security and Ethics (RAISE). С докладами выступили более 50 спикеров – представители государств, международных организаций, бизнеса и научного сообщества.
Конференция состоялась сразу после неформальных обменов по вопросам ИИ в военной сфере, организованных Управлением ООН по вопросам разоружения (UNODA) в соответствии с резолюцией Генеральной Ассамблеи ООН 80/58. Это придало дискуссии более прикладной характер – основное внимание было сосредоточено на практических механизмах управления рисками на протяжении всего жизненного цикла технологий.
Технологический трек охватывал предвзятость алгоритмов, тестирование и оценку систем, технологии двойного назначения, агентный ИИ, применение ИИ в военных системах, спутниковую разведку, киберугрозы, квантовые вычисления и зависимость от цифровой инфраструктуры. Одной из важных тем стало влияние ИИ на ядерное сдерживание и стратегическую стабильность. Трек, посвященный вопросам управления и регулирования, охватывал применение международного гуманитарного права, ответственность государств и компаний, человеческий контроль, взаимодействие государства и бизнеса, инвестиции в технологии двойного назначения и международные стандарты.
Во многих выступлениях звучала мысль о том, что традиционных подходов к регулированию вооружений и сертификации уже недостаточно для систем, которые постоянно обновляются, используют общую гражданскую и военную инфраструктуру и могут приобретать новые функции после внедрения. Значительная часть дискуссии была посвящена тестированию и валидации, аудиту, управлению данными, кибербезопасности, распределению ответственности и сохранению реального, а не формального человеческого контроля.
Международное сообщество пока не выработало общего подхода к регулированию военного ИИ. Одни участники выступали за постепенное формирование универсальных стандартов и механизмов «мягкого права», другие предлагали введение обязательных ограничений для наиболее рискованного применения. Несмотря на различия в подходах, участники подчеркивали важность дальнейшего международного диалога, выработки общей терминологии и процедур оценки, а также развития мер укрепления доверия.
Глобальная повестка: институциональный контекст
Изуми Накамицу, Высокий представитель ООН по вопросам разоружения, отметила, что выработка эффективных международных правил требует участия широкого круга сторон и технической экспертизы.
Одним из главных вызовов она назвала различие национальных приоритетов: одни государства сосредоточены на регулировании военного ИИ, другие – на доступе к технологиям и развитии собственного научно-технического потенциала. По ее мнению, именно ООН позволяет учитывать эти различия и выработать устойчивые международные договоренности.
Рафаэль Гросси, генеральный директор МАГАТЭ, отметил, что развитие ИИ сопровождается ростом вычислительной инфраструктуры и энергопотребления дата-центров, что повышает значение атомной энергетики.
При этом он добавил, что модель гарантий МАГАТЭ нельзя применять к сфере ИИ. В отличие от ядерных материалов, ИИ-технологии представляют собой быстро меняющиеся алгоритмы и программные системы, которые невозможно контролировать традиционными инспекциями. Гросси провел параллель с Конвенцией о запрещении биологического оружия, в рамках которой так и не удалось создать работающий механизм проверки. Этот опыт показывает, что наличие формального механизма еще не означает возможности по реальному контролю за соблюдением установленных правил. Из подходов МАГАТЭ он предложил опираться на независимую международную экспертизу, технические критерии и механизмы, которые позволяют сохранять доверие между государствами. Также Гросси поддержал позицию США и Китая о том, что решения о применении ядерного оружия должны оставаться за человеком.
Технологические вызовы: от предвзятости до квантовых угроз
Оценка надежности ИИ-систем не может ограничиваться проверкой перед внедрением. Системы продолжают меняться на протяжении всего жизненного цикла, и вместе с ними меняются источники риска.
Джейн Пинелис и Керстин Виньярд (Лаборатория прикладной физики Университета Джонса Хопкинса) показали, что предвзятость ИИ по-разному понимается инженерами, военными и политиками. Для разработчиков это прежде всего статистические искажения, тогда как специалисты по безопасности оценивают, как такие искажения влияют на защиту гражданского населения, риски эскалации и доверие к решениям ИИ. Докладчики выделили несколько видов предвзятости – в данных, моделях, результатах и в восприятии людьми рекомендаций модели.
Рюмейса Савран (Технический университет Нюрнберга) продемонстрировала, что ответы ИИ на политически чувствительные темы меняются в зависимости от того, кем система считает пользователя. Различия касались не точности ответов, а аргументации, акцентов и выводов, которые менялись в зависимости от предполагаемой личности собеседника. Однако существующие методики тестирования почти не учитывают влияние такой персонализации на содержание ответов.
Бен Фосетт (Advai) обратил внимание на ограниченность традиционной сертификации. Современные системы продолжают меняться после внедрения, поскольку в них обновляются модели, промпты, датасеты и механизмы поиска. Надежность таких систем необходимо подтверждать непрерывно на протяжении всего жизненного цикла. В качестве примера Фосетт привел платформу Model Arena, разработанную при поддержке правительства Великобритании и используемую Министерством обороны для регулярной проверки надежности системы по мере ее обновления. По оценке Фосетта, существенные изменения модели должны автоматически запускать повторную проверку.
Фосетт также подчеркнул, что военные ИИ-системы требуют нескольких видов тестирования – на безопасность, устойчивость, кибербезопасность, этические риски, способность выполнять конкретные задачи и др. Для этого необходимы независимые тестовые наборы данных, единые методики испытаний и сравнение различных моделей.
Дэн Росс (Dynamo AI) выделил основные механизмы управления ИИ: тестирование моделей до внедрения (red teaming), защитные механизмы во время эксплуатации (runtime guardrails) и механизмы контроля агентных систем. Runtime guardrails контролируют запросы и ответы модели, предотвращая утечки данных и нарушения установленных правил. Для агентных систем Росс предложил использовать так называемый регламент полномочий (policy contract) – набор правил, который определяет, какие действия может выполнять агент, к каким данным он имеет доступ и в каких случаях требуется вмешательство человека. Соблюдение этих правил должно проверяться автоматически.
Спикер также описал эффект «смертоносной триады» (lethal trifecta), который возникает, когда ИИ-агент одновременно получает непроверенные внешние данные, доступ к закрытой или чувствительной информации и может передавать данные во внешние системы, например, через электронную почту или API. В такой конфигурации ошибка или компрометация агента может привести к утечке данных за пределы защищенной инфраструктуры.
Асим Хваджа (государственная служба Великобритании) предложила оценивать агентный ИИ не только с точки зрения возможных ошибок, но и с учетом того, какие действия система может выполнять и от чьего имени она действует. Агентный ИИ следует рассматривать как самостоятельный операционный субъект, который имеет собственную идентичность, доступ к инструментам, память и определенный набор прав.
Хваджа выделила ключевые элементы контроля агентного ИИ: идентичность агента, ограниченные и временные права доступа, возможность ограничить или отменить его действия, обязательное участие человека при принятии важных или труднообратимых решений, фиксация действий для последующего аудита и установления ответственности. По ее словам, эти принципы постепенно отражаются в различных международных и отраслевых стандартах, включая NIST, ISO и EU AI Act.
Улисс Ришар (UNODA) предупредил, что агентные системы могут постепенно менять свое поведение без явных признаков отказа. Одним из рисков он назвал персистентную память. Если содержащаяся в ней информация будет случайно или намеренно искажена, агент может продолжить работу, опираясь на ошибочные данные или установки.
Эндрю Редди (Калифорнийский университет в Беркли*) предложил оценивать сферы применения военного ИИ в зависимости от уровня риска. К относительно низкорисковым задачам он отнес анализ разведданных, логистику и обслуживание техники. Более высокий риск связан с оперативным планированием, поддержкой принятия решений и выбором целей. Наибольшие риски связаны с системами применения силы и ядерного командования.
Современные алгоритмы позволяют объединять данные из разных источников в единую картину. Однако после сквозной интеграции становится сложнее определить, какие именно данные повлияли на конкретный вывод. Дополнительной проблемой остается automation bias – склонность операторов без проверки доверять рекомендациям алгоритма.
Развитие ИИ размывает традиционное разделение между инструментами защиты и нападения в киберпространстве. Одни и те же системы могут использоваться как для защиты инфраструктуры, так и для проведения атак. Ягмур Джерен Атай (независимый исследователь в области безопасности ИИ) описала так называемый «парадокс компрометации защитника» (defender compromise paradox). Скомпрометированный ИИ-агент, в отличие от обычного средства защиты, может продолжать выполнять защитные функции и одновременно работать в интересах злоумышленника – например, передавать учетные данные или другую чувствительную информацию.
К основным рискам Атай отнесла скрытую компрометацию защитных ИИ-систем, атаки через цепочки поставок и высокую скорость работы ИИ-агентов. В последнем случае человек может не успеть обнаружить атаку и вовремя вмешаться. Защищать необходимо не только саму модель, но и всю систему в целом – данные, программное обеспечение, внешние сервисы, права доступа и другие компоненты, от которых зависит ее безопасность.
По оценке Эми Чанг (Cisco), ИИ стирает границу между кибероперациями и вооруженными конфликтами. В традиционных кибероперациях человеку сложно одновременно обеспечивать высокую скорость, масштаб действий и постоянный контроль. ИИ позволяет автоматизировать и масштабировать такие задачи, включая разведку и поиск уязвимостей.
Чанг привела пример операции, в ходе которой злоумышленники с помощью ИИ-технологий несколько лет сохраняли доступ к критически важной инфраструктуре другого государства и активировали атаки в соответствии с политическими задачами.
Развитие ИИ также меняет подход к восстановлению после кибератак. Если злоумышленник долгое время сохраняет доступ к системе, он может заранее изменить резервные копии и другие элементы инфраструктуры. После восстановления инфраструктура может остаться под контролем злоумышленника, а длительная атака по своим последствиям может быть сопоставима с физическим разрушением объекта.
Чанг также привела пример ИИ-модели (Claude Mythos – прим. автора), которая за месяц выявила более 23 тыс. потенциальных уязвимостей примерно в тысяче программных проектов; около 90% из них подтвердились. Этот пример показывает, что ИИ значительно ускоряет поиск уязвимостей в программных системах. Для специалистов по кибербезопасности это позволяет быстрее выявлять и устранять уязвимости, но те же возможности могут использовать злоумышленники для поиска точек входа и подготовки атак.
Майсем Алами (Американский университет в Каире) обратила внимание на риски квантовых вычислений для современных систем шифрования. Уже сегодня злоумышленники могут перехватывать зашифрованные данные – например, сведения о военной логистике, критической инфраструктуре, автономных системах и взаимодействии ИИ-агентов – и хранить их до появления мощных квантовых компьютеров для расшифровки.
По мнению Алами, существующие подходы к управлению ИИ недостаточно учитывают вопросы криптографической защиты. При оценке ИИ-систем, работающих с чувствительными данными, необходимо учитывать риски, связанные с развитием квантовых вычислений.
Казуо Ногучи (Hitachi America, Ltd.) отметил, что переход на постквантовую криптографию может занять от трех до пяти лет, поэтому подготовку к нему необходимо начинать заранее. Точная дата так называемого Q-Day – момента, когда развитие квантовых вычислений поставит под угрозу надежность современных методов шифрования, – неизвестна. В качестве ориентира Ногучи назвал 2030 год.
Трансформация частного сектора и кризис экспортного контроля
Развитие ИИ усложняет контроль над технологиями двойного назначения. Во-первых, гражданскую систему можно адаптировать для военных целей без изменений базовой архитектуры. Во-вторых, возможности таких систем во многом определяются не аппаратной частью, а программным обеспечением, моделями и данными. В таких условиях традиционные инструменты экспортного контроля, ориентированные на физические и конструктивные характеристики, становятся менее эффективными.
Генерал-майор Паван Ананд (Объединенный институт вооруженных сил Индии) отметил усиление роли частных компаний в разработке военных технологий. Если раньше новые разработки чаще создавались государством, а затем находили применение в гражданской сфере, то сегодня многие технологии сначала появляются на коммерческом рынке и уже потом адаптируются для военных задач. Гражданские системы могут использоваться для разведки, наблюдения, целеуказания и других военных задач. Переход к военному применению может происходить через изменение данных, дообучение модели или расширение функциональности систем.
Ананд предложил оценивать военный потенциал технологии не только по ее текущим возможностям, но и с учетом того, как они могут меняться в процессе эксплуатации. При этом важно учитывать работу с данными, API-интеграции, возможность дообучения, взаимодействие с физическими системами, а также весь жизненный цикл технологии – вплоть до ее вывода из эксплуатации.
Еще одной проблемой он назвал зависимость вооруженных сил от коммерческой цифровой инфраструктуры. Ограничение работы Starlink в районе Крыма показало, что решения частной компании могут влиять на ход военных операций, а государство не всегда может контролировать такую инфраструктуру.
Майкл Адамс (Palantir) объяснил, что требования международного гуманитарного права и защиты приватности нельзя встроить в готовую систему. Эти требования должны учитываться на этапе работы с данными. Важно знать их происхождение, отслеживать изменения и заранее предусматривать необходимые ограничения в самой системе.
Кристиана Оноджа (Defence Industries Corporation of Nigeria) и Феликс Алайта (Kryterion Limited) выделили три уровня взаимодействия человека и ИИ-систем: реактивный, когда система отвечает на запрос; поддерживающий, когда предлагает варианты решений; и проактивный, когда самостоятельно инициирует анализ и предлагает дальнейшие действия. Особого внимания, по мнению докладчиков, требует последний уровень, поскольку он способен влиять на процесс принятия решений.
Среди примеров были рассмотрены платформы Maven, Starshield и Anduril Lattice. Maven позволяет быстрее обрабатывать разведданные и использовать их для планирования и принятия решений. Starshield обеспечивает спутниковое наблюдение, обработку и защищенную передачу данных государственным структурам, что сокращает время между обнаружением событий и реакцией на них. Anduril Lattice объединяет данные различных сенсоров в единую оперативную картину и обеспечивает их обработку в реальном времени для обнаружения, отслеживания и классификации объектов. По мере автоматизации этих процессов сокращается время, которое остается человеку для самостоятельной оценки ситуации.
Среди основных проблем африканских государств спикеры выделили зависимость от зарубежных технологий, нехватку локальных данных, слабое взаимодействие технологического и оборонного секторов и непрозрачность используемых моделей.
Захим Икбал (Национальная группа реагирования на киберинциденты Пакистана, Секретариат Кабинета министров) и Мохаммад Хуррам Хан (Университет короля Сауда) описали проблему «транснационального алгоритмического разрыва». Государства, не имеющие собственных разработок в области военного ИИ, вынуждены использовать зарубежные системы, не всегда понимая, на каких данных они обучены, как устроены их модели и насколько они подходят для национальных условий.
Такие системы могут отражать культурный контекст и представления об угрозах страны-разработчика. При использовании в другой среде это может приводить к ошибочному распознаванию объектов и неверной интерпретации поведения гражданского населения.
Докладчики подчеркнули важность «алгоритмического суверенитета» – способности государства самостоятельно понимать, оценивать и адаптировать используемые ИИ-системы. Зависимость от зарубежных технологий не только сдерживает развитие собственных решений, но и создает дополнительные риски для национальной безопасности.
Приток частного капитала в технологии двойного назначения опережает формирование единых подходов к оценке рисков. Кристофер Чанг (Simplex Heritage) обратил внимание на отсутствие общепринятых стандартов ответственного инвестирования в ИИ-системы и технологии двойного назначения. Высокий темп заключения венчурных сделок зачастую не оставляет инвесторам достаточно времени для полноценной проверки, из-за чего наиболее рискованные направления могут оставаться без должного внимания. Это ставит вопрос о необходимости разработки критериев оценки технологий и механизмов контроля за их дальнейшим применением.
Апарна Сурендра (AWO) отметила, что компании должны определять допустимые способы использования своих технологий и закреплять соответствующие ограничения в контрактах. Для выявления возможных нарушений необходим также мониторинг того, как эти технологии используются на практике.
В условиях развития технологий двойного назначения инвесторам приходится определять, какие компании и технологии относятся к оборонному сектору и какой уровень риска можно считать приемлемым. Сэмюэл Джонс (Heartland Initiative) обратил внимание на снижение прозрачности деятельности оборонных компаний и ослабление регулирования в США. По его мнению, инвесторы могут влиять на то, какие технологии получают финансирование, и тем самым сдерживать развитие наиболее рискованных направлений военного ИИ.
Heartland Initiative совместно с партнерами сформировала международную рабочую группу по ответственному инвестированию в оборонные технологии. В нее вошли организации, управляющие активами на общую сумму более 18 трлн долларов. Группа планирует подготовить карту мирового рынка оборонных технологий, разработать методику оценки рисков и определить критерии исключения наиболее рискованных технологий из инвестиционных портфелей.
Ядерный фактор и стратегическая стабильность
Развитие ИИ и других новых технологий может повлиять на устойчивость ядерного сдерживания. Ключевое значение приобретает способность государств сохранять защищенность своих ядерных сил и гарантированную возможность ответного удара.
Наим Салик (Институт стратегического видения) отметил, что ИИ может изменить логику ядерного сдерживания. Повышение точности разведки и поражения целей увеличивает вероятность контрсиловых и обезглавливающих ударов, а в кризисной ситуации может подтолкнуть одну из сторон к нанесению первого удара. В условиях дефицита времени возрастает риск того, что человек будет следовать рекомендациям ИИ без должной проверки.
Дополнительную угрозу представляет сочетание ИИ, кибертехнологий и квантовых вычислений. ИИ-системы наблюдения позволяют отслеживать мобильные пусковые установки и передавать данные об их местоположении в реальном времени, что затрудняет их скрытое перемещение и размещение. Аналогичный риск возникает и для подводных ракетоносцев. Развитие беспилотных подводных аппаратов (UUV) в перспективе может упростить их обнаружение и поражение. По мере развития ИИ и других технологий необходимо искать новые способы защиты ядерных сил и сохранения потенциала ответного удара.
ИИ расширяет возможности анализа спутниковых снимков и мониторинга ядерных объектов, но вместе с тем создает новые уязвимости. По мере роста использования алгоритмов для оценки ядерных программ и арсеналов возрастает роль качества данных, устойчивости моделей к атакам и защиты аналитических систем от компрометации. Цзинцзе Хэ (Китайская академия общественных наук) показала, как ИИ ускоряет обработку спутниковых данных и повышает эффективность контроля за ядерной деятельностью. В качестве примера она рассмотрела мониторинг иранского ядерного объекта в Исфахане. На спутниковом снимке были обнаружены грузовики с контейнерами у входа в подземный комплекс, что позволило предположить перемещение запасов высокообогащенного урана. Хэ отметила, что применение ИИ позволяет быстрее обрабатывать большие объемы спутниковых данных и выявлять изменения на объектах.
Хэ также рассмотрела риск извлечения модели (model extraction). При многократных запросах к закрытой системе через API злоумышленник может собрать достаточно данных, чтобы воспроизвести работу исходной модели. По словам Хэ, если таким образом будет скопирована модель анализа спутниковых изображений, ее можно использовать для разработки более эффективных способов скрывать деятельность, связанную с распространением вооружений.
К другим угрозам Хэ отнесла отравление данных и атаки на алгоритмы распознавания. Такие атаки могут заставить систему пропустить объект на спутниковом снимке или неверно его классифицировать.
МГП, права человека и ответственность бизнеса
Дискуссия о регулировании военного ИИ поднимает вопрос о том, нужны ли новые правовые механизмы. Вадим Козюлин (Дипломатическая академия МИД России) подчеркнул, что сегодня важнее не создавать новые правовые режимы, а обеспечить применение существующих норм МГП. Технологическое превосходство само по себе не делает войну более гуманной. Чрезмерная уверенность в точности технологий может снизить порог применения силы. Также ИИ-технологии могут быть полезны после завершения конфликтов. Модели могут применяться для документирования разрушений, анализа спутниковых данных и расследования нарушений МГП.
Требования МГП и международные нормы в области прав человека необходимо учитывать при проектировании системы, а их соблюдение обеспечивать на всех этапах разработки и эксплуатации, в том числе посредством экспортного контроля и корпоративных процедур. Согласно докладу Анке Алленхефер (Helsing), оценку систем на соответствие статье 36 Дополнительного протокола I зачастую проводят на поздней стадии, уже после предложения системы заказчику. Внесение изменений на этом этапе приводит к пересмотру контрактов и техническим сложностям.
Вафа Бен-Хассан (Управление Верховного комиссара ООН по правам человека) дополнила, что регулирование ИИ должно учитывать не только МГП, но и международные нормы прав человека. Одним из ключевых инструментов она назвала Human Rights Due Diligence – системную оценку рисков и мер по предотвращению негативного воздействия технологий на права человека.
В рамках B-Tech Project OHCHR совместно с технологическими компаниями разрабатывает практические подходы к учету прав человека при создании ИИ-систем. В 2026 году было запущено направление по интеграции Human Rights Due Diligence в процесс разработки ИИ-продуктов. Задача заключается в том, чтобы переводить нормы прав человека «в код» и учитывать их в инженерных и управленческих решениях.
Эмили Рор-Эйде (Kongsberg Gruppen) отметила, что после передачи вооружений заказчику производитель не может контролировать их применение, поскольку соответствующие решения принимает государство. В этих условиях ключевую роль играет государственный экспортный контроль. В качестве примера она привела Норвегию, где при выдаче экспортных лицензий оценивают ситуацию с правами человека в стране-получателе. Если существуют серьезные риски нарушений, в выдаче лицензии могут отказать, даже если поставка отвечает коммерческим интересам производителя.
Майкл Каримян (Microsoft) считает, что международные нормы в сфере военного ИИ должны быть учтены в корпоративных процедурах, поскольку решения компаний влияют на риски, связанные с применением таких систем. Для этих целей Microsoft предлагает «Framework of Responsible Industry Behaviour for AI in the Military Domain» – рамочную систему ответственного поведения компаний при разработке военного ИИ. Предложенная рамка охватывает весь жизненный цикл продукта: от выбора данных и проектирования архитектуры до тестирования, подготовки документации, последующих обновлений и технической поддержки уже переданной заказчику системы. По мнению спикера, при разработке и использовании таких систем главным приоритетом должна оставаться защита гражданского населения.
Дискуссия о военном ИИ сосредоточена на ведении боевых действий – выборе целей, соразмерности применения силы и оценке вооружений. Гораздо меньше внимания уделяется тому, как генеративные технологии создают новые риски для защиты военнопленных. Мэттью Кеннеди (Оксфордский институт Интернета) и Нейтан Хит (Syntony) рассмотрели риски генеративного ИИ для лиц, находящихся под защитой Женевских конвенций.
Главную угрозу, по их мнению, составляют дипфейки, поддельные документы, синтетическое аудио и видео, способные исказить сведения о военнопленных и условиях их содержания. Докладчики предлагают рассматривать Женевские конвенции как механизм защиты достоверности сведений, то есть их подлинности, доступности и прослеживаемости происхождения. Запрет на публичное унижение военнопленных из статьи 13 Третьей Женевской конвенции, по их мнению, должен распространяться также на дипфейки и другие сгенерированные изображения.
Докладчики обратили внимание на феномен «дивиденда лжеца» (liar’s dividend). Чем шире распространены технологии создания дипфейков, тем сложнее доверять даже подлинным доказательствам нарушений международного гуманитарного права. Для оценки таких рисков Мэттью Кеннеди и Нейтан Хит разработали модель MAESTRO4IHL, адаптировав методологию анализа угроз для агентного ИИ MAESTRO под задачи МГП. Модель рассматривает угрозы на разных уровнях – от данных до всей экосистемы – и оценивает, является ли информация о военнопленных достоверной, доступной нужным сторонам и прослеживаемой по происхождению.
Архитектура глобального управления: поиск консенсуса
Дэвид Эдельман (MIT/Брукингский институт) подчеркнул, что одни и те же термины разные страны понимают по-разному. В американском подходе система вооружений рассматривается отдельно от оператора, тогда как в китайском подходе работа оператора считается частью системы. Такое различие определяет роль человека в управлении системой и влияет на оценку ее соответствия нормам МГП.
Накул Наяр (Объединенный центр компетенций воздушных операций НАТО) предложил развивать под эгидой ООН рамочный механизм добровольных стандартов и мер прозрачности для военного ИИ. По его мнению, на данном этапе такой подход может быть эффективнее юридически обязывающего международного договора, к которому ведущие военные державы могут не присоединиться. В свою очередь, ООН может обеспечить более широкую международную легитимность таких правил.
Наяр также обозначил необходимость общих стандартов тестирования и оценки военных ИИ-систем. Различия в данных, критериях проверки и требованиях к вмешательству человека могут привести к тому, что системы государств-союзников будут по-разному оценивать одну и ту же ситуацию, затрудняя принятие совместных решений.
Более тесное взаимодействие государства и бизнеса становится необходимым по мере роста роли частных компаний в сфере военного ИИ. Среди ключевых направлений можно выделить распределение ответственности между разработчиками и операторами, единые стандарты безопасности и постоянные международные площадки для обсуждения рисков новых технологий и обмена опытом. Из практических мер – добровольный обмен национальными практиками и технические консультации. Такое взаимодействие не должно требовать раскрытия чувствительной информации, ограничивать законные интересы государств в сфере обороны или создавать возможности для внешнего контроля над национальными системами.
Позиция Российской Федерации
Денис Жуйков (старший советник Постоянного представительства Российской Федерации при Отделении ООН в Женеве) изложил российский взгляд на развитие международного регулирования военного ИИ. Одной из ключевых международных площадок в этом направлении Россия считает Группу правительственных экспертов ООН по смертоносным автономным системам вооружений (GGE on LAWS). Этот формат позволяет обсуждать правовые, технические и военные вопросы, связанные с применением ИИ, учитывая национальные позиции государств и сохраняя широкий круг участников.
Говоря о связи международных и национальных подходов к регулированию военного ИИ, Жуйков привел в качестве примера российскую Концепцию деятельности Вооружённых Сил РФ в сфере разработки и применения систем вооружений с использованием технологий ИИ (2022), основанную на 11 принципах. Отдельные ее положения уже нашли отражение в материалах GGE on LAWS. Наряду с этим форматом он назвал важными и другие международные площадки – по ИКТ, биологическому и химическому оружию, а также Комиссию ООН по разоружению.
Жуйков выступил против создания новых специализированных международных механизмов по военному ИИ, поскольку это может привести к дублированию обсуждений. Дальнейшую работу, по его мнению, следует вести в рамках уже существующих площадок и на основе консенсуса. Представители Бразилии и Египта также подчеркнули центральную роль ООН и важность предотвращения фрагментации международного регулирования.
Заключение
За рамками отдельных докладов на AISE26 можно выделить две тенденции, имеющие значение для дальнейшего регулирования военного ИИ. Во-первых, развитие агентных и постоянно обновляемых ИИ-систем происходит быстрее, чем формируются международные нормы и процедуры их оценки. В результате нормативные подходы могут отставать от развития таких систем и новых способов их применения. Во-вторых, заметно возрастает роль частного сектора: компании контролируют значительную часть моделей, данных и цифровой инфраструктуры, от которых зависит работа военных ИИ-систем.
Общий международный подход к регулированию военного ИИ пока не сформирован. Российская позиция, представленная на конференции, ориентирована на использование существующих площадок ООН, прежде всего GGE on LAWS, и сохранение консенсусного характера переговоров. В этих условиях наиболее реалистичными шагами остаются согласование терминологии и процедур оценки, развитие диалога на существующих международных площадках и меры укрепления доверия с участием государств, бизнеса и экспертного сообщества.
Происходящие изменения затрагивают и сам предмет регулирования. Наряду с характеристиками самой технологии на первый план выходит вопрос о полномочиях, которыми наделяются ИИ-системы. Для систем, способных действовать самостоятельно, важно, кто определяет объем этих полномочий и в каких пределах они могут действовать. Применительно к военному ИИ это ставит вопрос о допустимом уровне автономности и о том, в каких случаях человек должен сохранять возможность вмешательства. Вероятно, именно эти вопросы будут определять содержание будущего международного регулирования.
Особое значение приобретает влияние ИИ на ядерное сдерживание и стратегическую стабильность. По мере развития технологии традиционные способы защиты стратегических сил могут терять эффективность, что ставит вопрос о пересмотре существующих подходов к защите ядерных сил и поиске новых решений, способных повысить их устойчивость и сохранить потенциал ответного удара. ИИ позволяет обрабатывать спутниковые и другие разведывательные данные в значительно большем масштабе и быстрее отслеживать изменения на объектах. На устойчивость стратегических сил будут влиять и другие быстро развивающиеся технологии, прежде всего квантовые вычисления. Их развитие ставит новые задачи в области криптографической защиты. Ранее перехваченные и сохраненные зашифрованные данные в будущем могут стать доступными для расшифровки, что способно ослабить защиту систем управления и связи и привести к раскрытию стратегически значимой информации.
В этих условиях необходимо развивать средства противодействия автоматизированному обнаружению с учетом возможностей новых систем распознавания. Особого внимания требует защита моделей, данных, сенсоров и каналов передачи информации. По мере появления ИИ-систем, способных значительно ускорить поиск уязвимостей, целесообразно развивать сопоставимые по возможностям инструменты для постоянной проверки защищенности цифровой инфраструктуры, связанной со стратегическими силами. Сохранение потенциала ответного удара во многом будет зависеть от собственных компетенций государства в области ИИ, анализа данных, кибербезопасности и постквантовой криптографии.
* Калифорнийский университет в Беркли официально признан нежелательной организацией на территории России.
2026 г.
Юлия Цешковская
Женева
Ключевые слова: Искусственный интеллект; смертоносные автономные системы
AC
E16/NOS – 26/10/15
