системой технологического контроля, которая была столь многогранной и столь вездесущей, что поначалу Майя даже не могла поверить в ее существование.
Детективная история
В конце 2017 года Майя одной из первых забила тревогу, узнав о работающей в Синьцзяне цифровой сети надзорных систем – созданном на основе больших данных аппарате, который используется для того, чтобы шпионить за мусульманами-уйгурами, преследовать их и сажать в тюрьму. О ее существовании она узнала практически случайно{166}.
Однажды во время интервью с уроженцем Синьцзяна, который недавно покинул регион после того, как был задержан полицией, коллега Майи из Human Rights Watch задал ему совершенно невинный вопрос. Почему именно его решили отправить в лагерь? Майе этот вопрос никогда не приходил в голову, хотя и был вполне очевиден: она привыкла думать, что китайские власти в принципе склонны к самоуправству.
Бывший узник лагеря рассказал им о компьютерной программе, которую видел в полицейских участках. Полицейские называли ее «единой системой». Эта программа формировала списки людей, подлежащих задержанию. Они составлялись на основе какой-то базы данных, но собеседник Майи не знал, каковы критерии отбора.
Майя принялась искать упоминания о «единой системе» в китайском и англоязычном интернете. Она прочесала кучу научных статей, публикуемых китайской полицией в журналах Министерства госбезопасности, и просмотрела множество официальных закупочных документов, маркетинговых материалов и патентных заявок. В конце концов она нашла название этой системы: «Единая платформа совместных операций» (IJOP). Майе открылась изнанка синьцзянского полицейского государства{167}.
Из закупочной документации следовало, что программу спроектировала и разработала компания China Electronics Technology Group Corporation (CETC) – крупный китайский государственный военный подрядчик. Предполагалось, что система будет предиктивной цифровой сетью для поимки будущих преступников и террористов еще до совершения ими преступлений и терактов. Очевидно, перед ней стояла такая же задача, как и перед системой ProKid в Амстердаме, которую применяли для выявления будущих преступников среди подростков. Результаты их работы, однако, различались: китайские алгоритмы приводили к задержанию людей, в то время как голландские активировали систему социальной защиты. Погрузившись в изучение используемых в Синьцзяне программ, Майя обнаружила, что работа над ними велась почти два десятилетия.
Узнав название системы, она принялась искать упоминания об IJOP в интернете, надеясь раскопать еще какую-нибудь информацию. И вскоре ей снова повезло.
Она нашла в свободном доступе само приложение – файл, архитектуру которого мог изучить кто угодно. Местные власти проявили небрежность. «Я подумала: нет, не может быть», – вспоминает Майя. Но приложение было очень похоже на описанное в официальных закупочных документах, поэтому Майя решила изучить его внимательнее.
Чтобы установить его подлинность, она привлекла к работе своего коллегу Шеймуса Туохи, который занимается вопросами кибербезопасности, а позже еще и внештатного аудитора, способного подсказать им, что искать. Изучив двоичную изнанку программы, они обнаружили в ней упоминание CETC – той же компании, о которой говорилось в официальной закупочной документации IJOP. Еще одной уликой стал цифровой идентификатор приложения – своего рода водяной знак, уникальный для разработчика программы. Майе удалось подтвердить, что этот идентификатор был создан CETC, когда она нашла такой же знак в другом приложении, разработанном той же компанией и официально выложенном в открытый доступ китайскими властями. Эти улики убедили руководство Майи из Human Rights Watch в том, что скачанное из интернета приложение – именно та программа, которая используется властями в Синьцзяне.
Теперь, когда в ее распоряжении оказалась копия программного кода, Майя получила возможность копнуть еще глубже и выяснить, на какие группы населения и какие поведенческие характеристики нацеливаются власти, – а следовательно, понять, как алгоритмы выбирают, кого отправлять в лагеря на перевоспитание.
Майя не умела программировать. Она никогда прежде не препарировала цифровые приложения. Первым делом она распечатала весь код на бумаге и разложила в своем кабинете десятки страниц, написанных на малопонятном языке. После этого она принялась подчеркивать фрагменты обычного текста, чтобы увидеть между ними связь.
«Я подумала, что смогу во всем разобраться, если буду достаточно долго вглядываться в этот код», – сказала Майя.
«Прямо как в “Играх разума”, когда Рассел Кроу взламывает шифр», – отметила я.
Она не смотрела этот фильм.
«Но в конце концов у меня все получилось», – заявила она.
С помощью своих коллег и берлинской компании из сферы кибербезопасности Майя сумела провести инженерный анализ приложения и выявить структуру полицейского государства, работающего в Синьцзяне.
Сначала она обнаружила, что приложение записывает определенные данные: на каком транспорте ездит человек, какая у него группа крови, какие у него банковские счета, – а также более деликатную информацию: например, о том, как он практикует свою религию – изучает ли Коран и соблюдает ли религиозные предписания в отношении внешнего вида, то есть носит ли бурку или длинную бороду без разрешения государства.
Эта система поглощала информацию о местоположении людей, данные о транспортных средствах, биометрическую информацию, включая изображения лиц, ДНК, образцы голосов и особенности походки, а также данные с мобильных телефонов: кому люди звонят и какие приложения скачивают. Она даже получала информацию о потреблении газа и электричества в семье и обо всех доставляемых посылках. В приложении выделялось тридцать шесть подозрительных «типов личности». Один из них обозначался словом 野阿吉, которое употребляется по отношению к людям, совершившим хадж (мусульманское паломничество), не получив на это разрешения («неофициальный хадж»){168}. Майя знала, что китайские власти запрещают мусульманам совершать хадж, если только он не организован государством, поэтому любой человек с этой меткой считался подозрительным.
Опираясь на получаемые данные, система составляла список людей, на которых следовало обращать особое внимание.
К тому времени Майя более десяти лет изучала нарушения прав человека в Китае, поэтому ее совсем не удивляла субъективность ярлыков, которые навешивались приложением, но его безответственность в принятии решений просто не укладывалась у нее в голове. Алгоритмы признавали подозрительными десятки законных поступков. Они реагировали на поездки за пределы Синьцзяна – как в другие регионы Китая, так и за границу, – а также на отключения мобильного телефона, беседы с живущими за границей родственниками, «отказ от общения с соседями, редкое использование передней двери» или использование западных приложений вроде WhatsApp или Skype.
Чем глубже копала Майя, тем более иррациональными ей казались решения алгоритма. В программе обнаружились такие критерии, как «общая неблагонадежность» (不放心人员) и молодость, то есть «рождение после 1980-х» (80, 90 后不放心人员). К ним добавлялись «общая подозрительность поведения», «наличие сложных социальных связей», «несобранность» и «наличие предосудительных [половых] отношений»{169}. При этом программа собирала и другие данные, чтобы в расставленные ловушки на ровном месте попадалось как можно больше уйгуров.
«Это настоящая охотничья сеть, –
