говорит Майя. – Все оставляют следы, и по этим следам они разыскивают людей по всему Китаю. Мы просто заметили это в Синьцзяне, поскольку увидели связь между полицейским надзором и перевоспитанием в лагерях».
Но у Майи был гораздо более серьезный повод для беспокойства. Она подозревала, что Синьцзяном дело не ограничивается. В руках деспотичных лидеров – в Китае или любой другой стране – алгоритмические системы контроля над населением превращаются в описанный Джорджем Оруэллом сапог, топчущий лицо человечества.
Правительство уже наступало на этнические меньшинства в других регионах Китая, например на исповедующих ислам представителей народности хуэй, живущих в самом сердце Великой Китайской равнины{170}. Ради «обеспечения общественной безопасности» власти осуществляли массовый сбор образцов ДНК взрослых и детей в Тибете. Местная полиция преследовала и притесняла недовольных действиями государства людей, которые регулярно ездили в Пекин подавать официальные жалобы{171}. Права человека на выражение согласия или протеста постепенно ограничивались, но никто этого даже не замечал.
Майя полагала, что Коммунистическая партия Китая стремится к установлению тотального контроля над населением. И для этого ей необходимо было поместить всех граждан под колпак технологического авторитаризма.
«Если они добьются своего, – говорит Майя, – это станет беспрецедентным проектом в истории человечества».
Пятая часть человечества
Система IJOP, как и многие другие программы на основе больших данных и машинного обучения, сосредотачивала власть в руках немногих и несоразмерно притесняла уязвимые группы. В Синьцзяне технологии надзора использовались против сообщества уйгуров. «Сильнее всего в Китае притесняются рабочие-мигранты, бедняки и уйгуры, – говорит Майя. – Тем, кто входит сразу во все три группы, приходится несладко».
Постоянный мониторинг и контроль над населением Китая приносил выгоду немногочисленной прослойке власть имущих – в частности, политическим лидерам. При этом в цифровые сети попадали люди с нижнего яруса социальной пирамиды, которые, вероятно, имели основания жаловаться и протестовать, но лишались всякой возможности влиять на ситуацию. Эта система была истинным воплощением концепции колониализма данных и работала как невидимая рука, которая подавляла любые зачатки инакомыслия и сопротивления в самых уязвимых слоях общества. Такие технологии, как системы распознавания лиц, часто внедрялись без ведома людей, которые оказывались у них на прицеле, хотя и не давали на это своего согласия, и активисты по всему миру со временем узнавали об этом на собственном печальном опыте.
Жизнь человека, получившего метку в приложении IJOP, менялась навсегда. Помеченные индивиды становились кандидатами на отправку в лагеря перевоспитания, развернутые по всему региону. Предиктивная программа, которая на глазах у Майи внедрялась по всему Китаю для предотвращения мелких и крупных преступлений, уже наносила первые удары в Синьцзяне, массово отправляя уйгуров в лагеря.
Майя обнаружила, что в Синьцзяне абсолютно все – а не только узники лагерей – жили в цифровой тюрьме, выстроенной из данных. Людей распределяли по отдельным виртуальным тюремным корпусам, давая им разную степень свободы в зависимости от того, как набор алгоритмов оценивал уровень исходящей от них угрозы. В этом «мире смерти» – если пользоваться термином, предложенным для притесняемых обществ африканским историком Акилле Мбембе{172}, – решения машин влияли на то, с кем люди виделись, куда ходили, что носили и какого бога могли почитать. Они были полностью лишены свободы.
«Если вы идете в кино, в торговый центр, в супермаркет, просто по улице, у вас на пути может возникнуть контрольно-пропускной пункт, как на границе Израиля и Палестины, только в Синьцзяне они повсюду: в деревнях, на шоссе, в городах и на окраинах», – говорит Майя, отмечая, что уйгуры, по сути, живут в клетке.
Если человек работал в городе, а жил в пригороде, ему необходимо было оформлять пропуск для регулярных поездок на работу. Ему приходилось просить разрешения, чтобы навестить свою мать в другом городе или встретиться с другом на юге Синьцзяна. Если уйгуры не сообщали о своих перемещениях, то системы обнаружения, в частности программы распознавания лиц, превращались в тюремных надзирателей.
Получив метку от алгоритма, люди лишались возможности покидать свою страну или префектуру. Помимо прочего, в качестве контрольных точек для ИИ использовались и семейные связи. Если человека или его родственников в прошлом задерживали и отпускали, его свободы ограничивались сильнее. Многих арестовывали просто потому, что ранее под арест попадали их родственники. На контрольно-пропускном пункте человека могли задержать или развернуть. Существовали цифровые имущие и неимущие.
Для любого, кто попадался на крючок, повседневная жизнь превращалась в постоянный источник стресса. Люди не понимали, как работают алгоритмы, не знали, какими критериями руководствуются власти, и не понимали, кому можно доверять. Они были полностью во власти деспотической кафкианской системы – как китайские гиг-работники, называвшие так приложения доставки, которые ими руководили.
Уйгуры в регионе знали только, что их жизнь рассматривают под микроскопом, что людей отправляют в центры перевоспитания, местоположение которых не раскрывается, и что их ждет наказание за разговоры на своем языке и исповедание своей религии. Они знали, что за ними наблюдают через их цифровые устройства.
Они удаляли зарубежные приложения, такие как Telegram, зарывали телефоны в землю и переставали разговаривать с родственниками, даже находясь у себя дома. Некоторые общались друг с другом с помощью жестов вместо слов, поскольку опасались, что их дома и автомобили прослушивают. На улицах люди закрывали лица, чтобы их не распознавали камеры, установленные через каждые несколько метров. «Это меняет самосознание жителей региона», – отмечает Майя.
В 2014 году уйгурский поэт и лингвист Абдувели Аюп был арестован китайскими властями и на пятнадцать месяцев отправлен в лагерь за попытку открыть в своем родном синьцзянском городе уйгуроязычные детские сады. Из-за связей с Аюпом, который давно вышел на свободу и теперь живет в Норвегии, арестовали также его брата и племянницу. Племянница впоследствии умерла в заключении.
В недавнем интервью Аюп описал технологию слежки на базе ИИ, с которой столкнулся в лагере{173}. «Каждый контрольно-пропускной пункт оборудован системой распознавания лиц. Через каждые сто метров установлены большие компьютерные экраны, и программа анализирует лица, сопоставляя их с документами. Если изображения совпадают, первый этап проверки пройден», – сказал он.
На втором этапе, по его словам, анализируются отражаемые на лице эмоции: как утверждается, программа определяет, не злится ли человек и нет ли у него намерения совершить нападение. «Для этого они изучают веки и другие черты», – отметил Аюп. Он полагал, что машины также анализируют физические характеристики и выражения лиц, чтобы прогнозировать благонадежность. «У них есть три типа: зеленый значит, что человек не опасен, желтый – что его настроение в пределах нормы, а красный сигнализирует об опасности», – сказал Аюп. Если система признает человека принадлежащим к
