«красной» группе, его уводят в комнату для допроса. После этого его могут отправить в лагерь перевоспитания, а могут и вовсе посадить в тюрьму.
Описанное Аюпом свидетельствует о применении физиогномики – теории, получившей особенно широкое распространение при нацистах, которые использовали ее, чтобы наращивать этнические репрессии и укреплять расистскую идеологию. После Второй мировой войны физиогномика была признана лишенной научных оснований и, несмотря на позднейшие попытки доказать, что программы на базе ИИ могут точно определять эмоции людей и устанавливать черты характера по лицам, научный консенсус по-прежнему гласит, что такие идеи следует считать лженаучными.
Слова Аюпа подтверждают и другие выходцы из региона. В 2021 году один уйгур рассказал Майе, как однажды попытался съездить в загородный аквапарк. Алгоритмы IJOP сочли этого человека подозрительным, и после допроса в полиции ему запретили покидать город. Незадолго до этого его уже допрашивали, но отпустили без предъявления обвинений, и он был напуган. И все-таки он отважился спросить одного из служащих на КПП, почему его не пропускают. Офицер сказал, что система есть система. Нужно подчиняться ее приказам. Обжаловать их невозможно. «Радуйтесь, что вас не отправили в тюрьму», – добавил он.
В таком мире, где властвуют надзор, цензура и контроль, инакомыслие теряет смысл. Людям может казаться, что у них по-прежнему есть возможность влиять на ситуацию, но правительство способно заблаговременно прогнозировать, предупреждать и подавлять любое коллективное действие. Это заставило Майю задуматься: что́ есть человечество, если пятая часть мирового населения не может свободно решать, что ей делать?
В ее представлении люди в Китае ничем не отличаются от всех остальных. Майя считала, что их положение должно беспокоить каждого, кто вообще верит в права человека. Ведь как только подобные проявления несправедливости, вызванные использованием ИИ, будут признаны допустимыми, наступление на права человека может начаться и за пределами Китая. Системы распознавания лиц используются полицией и охранными предприятиями по всему миру – от США, Великобритании и Индии до Бразилии, ЮАР и Уганды. Если не остановить это как можно скорее, нарушения прав человека по указке ИИ могут стать проблемой, затрагивающей каждого.
Создание полицейского государства
Когда автоматизированные системы влияют на жизни людей, это начинает сказываться на целых сообществах. Так произошло в Гонконге, где технология распознавания лиц применялась для преследования участников политических протестов{174}, так было и когда алгоритмы социальных сетей манипулировали мнениями людей по политическим и социальным вопросам во время выборов в США и пандемии COVID–19{175}.
В Китае под удар попали не только уйгуры – государство больших данных начало оказывать влияние на собственную полицию. Например, многие офицеры из Синьцзяна в личных беседах с исследователями жаловались, что лишились возможности действовать по собственному усмотрению и самостоятельно принимать решения.
«Раньше можно было наладить отношения с местными властями, которые проявляли человеческую гибкость, оценивая разумность своих решений», – говорит Майя. Так, представителю власти можно было объяснить, что едешь на машине брата. Но теперь появились определенные критерии для задержаний, а полицейским приходилось вырабатывать норму по арестам. Некоторые отмечали, что не могут нормально выспаться, потому что их заставляют проверять малейшие странности, выявляемые алгоритмами, а система следит за тем, насколько быстро они справляются с задачами.
Они оказались под колпаком у тех же централизованных систем, которые были нацелены на уйгуров. «Это позволяет центральному правительству осуществлять более суровый контроль, – говорит Майя. – Ни одна другая империя в истории не была способна так быстро справляться с этим при таком географическом размахе».
Стремясь расширить свои возможности, китайские власти привлекли к сотрудничеству компании, работающие с искусственным интеллектом, чтобы в партнерстве с частным сектором создать гибридное полицейское государство. Китайские разработчики ИИ, такие как SenseTime и Megvii, поставляли синьцзянским властям оборудование для распознавания лиц{176}. Камеры Hikvision, одного из крупнейших в мире производителей систем видеонаблюдения, и Leon, бывшего партнера SenseTime, также использовались для слежки за мусульманами по всему Синьцзяну{177}. «Очень многие китайские компании участвуют в притеснении населения в Китае», – говорит Майя.
Узнав об этих компаниях и их отношениях с властями, Майя обнаружила, что у них есть связи и за пределами Китая. Эти фирмы продавали системы надзора и авторитарным, и демократическим правительствам по всему миру и привлекали средства международных инвесторов. Например, компания SenseTime, один из самых авторитетных производителей технологий распознавания лиц, получила 3 млрд долларов от ряда известных иностранных инвесторов, включая SoftBank, Tiger Global и Silver Lake{178}.
Другая компания, Hikvision, как выяснилось, поставляла сотни камер видеонаблюдения британским властям, которые устанавливали их в официальных правительственных зданиях в Вестминстере, органах местного самоуправления в различных регионах Великобритании, средних школах, больницах Национальной службы здравоохранения, а также в британских университетах и полицейских участках{179}. В 2022 году британское правительство запретило использовать камеры Hikvision в критически важных местах, например в кабинетах министров и других чиновников{180}. По сути, экспорт китайского оборудования для видеонаблюдения в другие страны с целью захватить как можно больше территорий и расширить международное влияние и власть Китая стал очередным проявлением колониализма данных.
И этим дело не ограничивается. Австралийский исследователь Алекс Джоске, изучающий деятельность Коммунистической партии Китая, сообщил мне, что в последнее десятилетие тысячи офицеров и рядовых китайской армии отправляются на Запад в качестве аспирантов и приглашенных ученых, чтобы брать на вооружение идеи ученых. Исследователи из Принстонского университета, Массачусетского технологического института и других престижных организаций пишут статьи в соавторстве с сотрудниками учреждений, финансируемых китайским государством{181}, включая Оборонный научно-технический университет Народно-освободительной армии Китая. Эти статьи посвящены таким темам, как анализ лиц, отслеживание людей, машинное понимание текста, беспилотные летательные аппараты и видеонаблюдение.
Джоске беспокоит, что западные университеты даже не пытаются убедиться, что технологии, в разработке и совершенствовании которых они принимают непосредственное участие, будут использоваться этичным образом.
Майя тоже полагает, что технологические компании, инвесторы и даже исследователи по всему миру причастны к тому, как китайские власти обращаются со своими гражданами. Мощные технологии искусственного интеллекта, применяемые в Китае, – многие из которых были разработаны благодаря западным инвестициям и ученым с западным образованием, – сделали обычных граждан бессильными.
«В моем представлении это положит конец всему, что мы ценим: равенству между людьми, человеческому достоинству и свободе выбирать, как нам жить, – говорит она. – Если уничтожить эту свободу, уничтожено будет и человечество».
Отпор
Теперь, прожив несколько лет в США, Майя серьезно обеспокоена тем, что на Западе китайцев считают более покорными и более готовыми жертвовать своими правами. Она отмечает, что в культурном отношении идея об инакомыслии – о борьбе
