ИИ рвется к мировому господству

Доделав во время пандемии инструментарий тотальной слежки за населением, китайская компартия готовится создать самую высокотехнологичную армию в мире

Фото: Aaron Greenwood / Unsplash

Президент КНР Си Цзиньпин обещает, что к 2030 году страна станет мировым лидером в высокотехнологичных отраслях. Впрочем, Китай уже ведет почти во всем – от робототехники и нанопроцессоров до солнечной энергии. Следующим шагом должна стать интеграция разных отраслей экономики и социума в единую систему управления – для этого необходимо развивать искусственный интеллект и технологии обработки больших данных.

Намерения Пекина вряд ли ограничиваются лишь мирным экономическим доминированием. Китайские специалисты создают системы тотальной слежки, которые продают другим странам. Авторитарный политический режим обретает инструментарий невиданной мощи, с помощью которого уже вьет веревки из собственного народа, и активно наращивает высокотехнологичные вооружения, благодаря которым скоро получит непобедимую армию.

Корпорация RAND – частный исследовательский центр, который консультирует американские вооруженные силы и Госдепартамент. Ее специалисты в сотрудничестве с экспертами американского правительства изучили планы Китая по использованию технологий анализа больших данных и политические цели, которых Пекин будет добиваться с их помощью. Рассматривались два кейса: система «социального мониторинга» и использование больших данных и ИИ Народно-освободительной армией Китая (НОАК).

Кто руководит инновационным процессом

В 2017 году Компартия Китая провозгласила курс на форсированное развитие искусственного интеллекта, технологий, связанных с обработкой больших массивов данных (БД), и интеграцию их в процессы управления обществом и экономикой. Сегодня за эту политику отвечают в основном три ведомства.

Госсовет контролирует процесс внедрения технологий в сфере экономического и правоохранительного контроля и госуслуг на региональном уровне. Отдельное направление – внедрение БД и ИИ в сельскохозяйственном секторе. Здесь они используются для контроля за объемами собранного урожая, ценами, потреблением и вместимостью хранилищ. Как отмечают эксперты RAND, это направление относится к наиболее чувствительным, так как именно в сельской местности китайский режим традиционно встречает наибольшее сопротивление.

Министерство информации и технологий контролирует и поддерживает высокотехнологичные компании и отвечает за внедрение больших данных в телекоммуникациях, интернете, финансовой сфере, общественном транспорте и здравоохранении.

Госкомитет по развитию и реформам (орган, отвечающий за экономическое планирование) играет роль правительственного мозгового центра – проводит исследования, формулирует задачи развития и разрабатывает конкретные программы.

Другие структуры, такие как Министерство образования, армия или спецслужбы, разрабатывают и внедряют технологии больших данных в своих сферах.

Тоталитарная антиутопия – не только в Синьцзяне

Как отмечают исследователи, МВД КНР – вероятно, самое передовое в мире в деле использования высоких технологий. В китайском законодательстве нет норм, которые мешали бы полиции легально следить за передвижениями человека и его личными данными и ограничивать его права в досудебном порядке, а поэтому полиция может использовать слежку так, как ей удобно.

Системы слежения ⁠развиты ⁠в разных регионах и городах Китая по-разному, а власти поощряют эксперименты на ⁠местном уровне. В некоторых городах уже ⁠создана тотальная сеть уличных видеокамер с системой распознавания лиц, которая ⁠позволяет находить преступников. Чаще всего ⁠такая технология используется для поиска разыскиваемых в людных местах. ⁠Так, во время пивного фестиваля Цзиньтао полиция арестовала 25 преступников со всего Китая.

Эта технология работает и с транспортными средствами. Здесь ее эффективность видна лучше всего – 100% всех украденных велосипедов и мотоциклов в Вэйфане, городе-пионере по использованию тотальной слежки, были возвращены владельцам. В Шанхае водителю без прав садиться за руль просто бессмысленно – полиция отследит его, стоит ему проехать несколько метров.

Правоохранители используют большие данные для улучшения логистики, распределения патрулей и более эффективного регулирования дорожного движения, а также для коммуникации с гражданами. В некоторых городах правоохранители делятся с жителями информацией, которую получают с помощью больших данных – например, о состоянии дорожного движения. В таких местах рейтинг полиции в обществе доходит до 99,5%.

Полиция анализирует не только съемки камер видеонаблюдения, но и налоговые и финансовые сведения о компаниях. Это позволяет выявлять мошеннические схемы, отмывание денег и коррупцию.

Наиболее совершенная система слежки за населением создана в печально известном Синьцзян-Уйгурском автономном округе. Еще в 2016 году там была запущена Интегрированная платформа совместных операций (ИПСА) – единая база данных и аналитический центр, услугами которого пользуются все полицейские департаменты и службы безопасности провинции.

ИПСА использует распознавание лиц, инфракрасные камеры, перехватчики сигнала Wi-Fi, которые обнаруживают идентифицирующие адреса компьютеров и смартфонов для сбора персональных данных. Эти следящие устройства размещаются в общественных местах – например, мечетях, или возле домов религиозных авторитетов. Кроме этого, службы безопасности в Синьцзяне собирают отпечатки пальцев и генетический материал уйгуров, проводят регулярные «интервью», чтобы выявить уровень идеологической активности.

Новая этика по-китайски

К концу 2020 года власти Китая обещают полностью закончить единую систему социального рейтинга, которая позволит любому правоохранителю или чиновнику в любой момент получить доступ к огромному массиву данных о каждом гражданине в «полицейском облаке». В этом массиве будут храниться сведения не только о прошлых судимостях и штрафах, но и множество некриминальной информации, – например, о потребительских предпочтениях и дружеских связях, – которая будет собираться через соцсети и мобильные приложения для шоппинга.

О планах создать систему социального рейтинга власти Китая объявили еще в 2014 году, а в 2016 году были запущены первые ее элементы. Главная задача системы – присвоить репутационный рейтинг каждому китайцу и на основании оценки определять его права, обязанности и долю общественного блага, на которую он может рассчитывать. В самой этой идее для Китая нет ничего нового – с самого начала правления коммунистов партийные органы на местах имели досье на каждого гражданина, куда заносили всю возможную информацию о нем и на основании этих данных принимали решение о его продвижении по службе, а при необходимости предоставляли правоохранителям и госбезопасности. Когда система будет доделана, оценки китайцев будут публиковаться в открытом доступе – это, по мнению властей, должно помочь гражданам держаться подальше от нехороших людей.

С этической точки зрения в основе этой системы лежит идея о том, что правоохранительные органы должны ограничивать права человека в превентивном порядке – еще до того, как он совершил преступление. Исследователи RAND вспоминают по этому поводу роман Джорджа Оруэлла «1984» и третий эпизод первого сезона сериала «Черное Зеркало» – в нем изображено общество, в котором действует система социального рейтинга, пугающе похожая на китайскую.

Так государство получит не только совершенный механизм контроля за человеческим поведением, но и инструментарий для навязывания этики, в которой общественные модели поощрения и порицания будут выстроены так, как это выгодно компартии. «Тот, кто покупает подгузники, вероятно, будет считаться более ответственным, чем тот, кто покупает видеоигры, потому что это указывает на незрелость и лень», – приводят пример авторы доклада.

Госзаказ на создание таких систем получили компании Tencent, владеющая главным китайским мессенджером WeChat, и Sesame Credit, которой принадлежит торговая площадка Alibaba. Sesame Credit разработала технологию для обширной базы данных, которая и ляжет в основу полностью интегрированной системы социального кредита. В ней будут четыре элемента. Во-первых, сведения о кредитной истории китайцев, а также об их зарплате, работе; во-вторых, данные, которые граждане будут обязаны сообщать о себе в официальных государственных опросах – исследователи не конкретизируют, какие именно. В-третьих – те самые данные, которые собирают о каждом из нас приложения на смартфонах: потребительские привычки, интересы и пристрастия. В-четвертых – данные о контактах человека, его друзьях и партнерах.

Пандемия коронавируса подстегнула развитие технологий контроля. IT-гиганты – те же Tencent и Alibaba – выпустили приложения, позволившие отслеживать передвижения и контакты людей, которые были заражены или побывали на зараженных территориях. Эти приложения были одобрены и официально использовались многими муниципалитетами в стране для создания режима «умного карантина». Каждый житель получал статус, – зеленый, желтый или красный, – от которого зависела свобода его передвижений. Как отмечают исследователи, можно ожидать, что, однажды получив такие технологии, китайские власти вряд ли когда-нибудь откажутся от их использования – такова природа авторитарных режимов.

Беспилотные танки и идеальные солдаты

Народно-освободительная армия Китая активно использует технологии, связанные с большими данными, как минимум с 2015 года. Тут многое, естественно, засекречено, поэтому специалисты RAND работали в основном с научными статьями китайских военных фабрик мысли, которые нередко публикуются в открытом (или сравнительно открытом) доступе.

Некоторые китайские генералы отстаивают точку зрения, что использование больших данных должно лечь в основу новой военной доктрины. Так, командующий северной группой войск НОАК Ли Цяомин утверждает, что необходимо изменить сам принцип принятия решений на поле боя – руководители на местах должны иметь больше автономии и действовать на основе анализа БД, полученных различными службами с помощью технологий интернета вещей и облачного хранения данных. Многие специалисты НОАК считают, что ИИ должен стать эдаким «офицером по технической части», который будет помогать военному руководству принимать решения. Исследовательские центры НОАК сейчас активно изучают возможности создания подобных систем и близки к тому, чтобы разработать прототип нейросети, которая сможет подсказывать офицерам наилучшие решения, самообучаясь с помощью массивов исторических данных.

Во флоте НОАК технологии БД и ИИ используются для того, чтобы во время боя составить единую картину происходящего из разрозненной информации: результатов наблюдения с кораблей и авиации, сведений радаров, спутников, локаторов, инфракрасных камер, а также донесений разведки. Системы, которые уже используются, определяют принадлежность и тип корабля, как только тот покажется в поле зрения следящих устройств, с 80–85% точностью – но военное руководство обещает довести это значение до 90–95%.

Флот НОАК использует самообучающиеся нейросети для перехвата вражеских радиосигналов. Такие системы могут определить принадлежность и тип радиосигнала за 0,1 секунды, а уже через 10 секунд научиться передавать на нем сообщения.

НОАК разрабатывает системы анализа больших данных для более эффективной военной мобилизации (например, для поиска и вербовки высокообразованных молодых ученых), улучшения системы снабжения армии и своевременного ремонта оборудования. Специалисты с энтузиазмом разрабатывают методики подготовки военных, основанные на ИИ; один из самых амбициозных таких проектов предполагает создание «кибер-психологической системы тренировки», в которых перед бойцом будет в точности воспроизводиться поле битвы.

И, естественно, НОАК использует БД для промывки мозгов. Один из самых пугающих проектов предполагает создание системы, которая будет контролировать взгляды, интересы, предпочтения, пристрастия обучающегося солдата, его активность в социальных сетях и даже «повседневные мысли» и на основании этих сведений создавать более совершенные методики идеологической обработки. Подобные системы уже тестируются на учебных базах в провинции Гуанчжоу.

Производители ВПК Китая активно экспериментируют с возможностями применения ИИ и БД в военной технике. Такие технологии могут применяться в крылатых ракетах, автономных беспилотных летательных и плавающих надводных и подводных аппаратах, наземных машинах, автономных комплексах ПВО (в том числе и лазерных).

Исследователи заключают, что китайские власти сознательно сделали цифровые технологии главным направлением развития в военной и правоохранительной сфере, так как уверены, что этот путь приведет их к мировому господству. С помощью больших данных и ИИ Пекин уже установил невиданный контроль за гражданами страны и активно модернизирует вооруженные силы, которые близки к тому, чтобы стать самыми технологически совершенными в мире – если еще ими не стали.

Технологии Китай Холодная война

Александр Артамонов