один виновный не останется безнаказанным»{60}.
В итоге полиция опознала почти двести человек, которых и арестовали за участие в протестах в День республики{61}.
Китайское правительство – один из главных пользователей технологии распознавания лиц, и муниципальные власти, частные арендодатели и организации, но прежде всего правоохранительные органы применяют ее, чтобы опознавать разыскиваемых людей по всей стране. С помощью технологии распознавания лиц власти находили участников недавних демонстраций против локдаунов, после чего нарушителей задерживали прямо у них дома{62}. Программа распознавания лиц входит в масштабную технологическую систему, которая используется для притеснения мусульманского уйгурского сообщества в провинции Синьцзян, живущей в оковах технологического авторитаризма. Китайские ученые и военные НИИ адаптируют обучающие данные, применяемые на Западе, чтобы совершенствовать архитектуру региональных систем наблюдения и контроля.
Кроме того, китайское правительство экспортирует надзорную инфраструктуру за рубеж. За несколько месяцев до президентских выборов в Уганде в январе 2021 года Дороти Мукаса, которая долгое время борется в Кампале за гражданские и цифровые права, обнаружила, что китайский телекоммуникационный гигант Huawei под предлогом борьбы с преступностью устанавливает в стране грандиозную систему наблюдения, оснащенную технологией распознавания лиц и другими ИИ-программами.
Программное обеспечение на базе ИИ, приобретенное угандийским правительством примерно за 126 млн долларов, стало одним из элементов более масштабного надзора за общественными пространствами, который Дороти изучает на протяжении многих лет{63}. Технология распознавания лиц представляла собой особенную проблему: она не регулировалась, была непрозрачной и неподотчетной – и все это пугало Дороти накануне выборов, на которых Йовери Мусевени, действующий президент Уганды с 1986 года, выдвигал свою кандидатуру на шестой срок.
По мнению Дороти, использование технологии такого типа – черного ящика, не имеющего ни технических, ни этических стандартов, – не может не привести к ущемлению прав. Она опасалась, что государство станет применять ИИ-надзор, чтобы ограничивать свободу самовыражения граждан, а также свободу собраний в общественных местах, особенно с участием оппозиции. Дороти переживала, что распознавание лиц в публичных местах заставит активистов уйти в подполье.
Дороти постоянно сталкивалась с этим на работе: власть имущие вели наблюдение за гражданами, прикрываясь необходимостью обеспечения национальной безопасности. В конце концов под удар попадала агентность обычных людей и людей, которые и без того притеснялись. «Учитывая историю китайской слежки за населением, это должно беспокоить любого угандийца, – сказала Дороти. – Мы все знаем, как китайское правительство осуществляет надзор у себя в стране. Мы просто не можем доверить [китайцам] установку системы наблюдения в Уганде». Помимо прочего ее тревожило и то, что лица чернокожих угандийцев будут использоваться для совершенствования китайских технологий – и это станет новым, извращенным прочтением истории о колониальной эксплуатации богатых ресурсами стран.
За несколько месяцев до выборов, в ноябре 2020 года, лидер оппозиции Боби Вайн, настоящее имя которого Роберт Киагуланьи Ссентаму, был арестован якобы за нарушение правил, установленных в период эпидемии COVID–19. После его ареста по стране прокатилась волна протестов и беспорядков. В столкновениях с полицией погибло не менее сорока пяти молодых людей{64}. Пресс-секретарь полиции подтвердил, что опознание протестующих производилось с помощью предоставленной Huawei технологии видеонаблюдения, а также программ для считывания автомобильных номеров и распознавания лиц. В итоге были найдены и задержаны сотни подозреваемых.
В январе Йовери Мусевени был переизбран, хотя Вайн и его команда и заявляли о фальсификации выборов. Дороти продолжает выступать за право угандийцев на частную жизнь и привлекает внимание к недопустимости надзора за населением без ответственности со стороны надзирающих.
Коллективный иск
В настоящее время не существует четких законов, регулирующих использование технологии распознавания лиц государством, и почти не существует законов, защищающих людей от частной слежки. Впервые этот пробел заполнен в Законе об искусственном интеллекте, который в настоящее время разрабатывается в Евросоюзе. В нем предлагается запретить применение технологии распознавания лиц в общественных местах, хотя сделаны и исключения: например, для поиска пропавших детей, опасных преступников и террористов{65}. В некоторых американских городах действует мораторий на использование этой технологии полицией. Но четких федеральных законов, ограничивающих ее применение, пока не существует. Тем временем люди по всему миру начинают оспаривать применение ИИ-технологий в судах, создавая первые юридические прецеденты.
В мае 2021 года, когда Индию захлестнула вторая волна пандемии коронавируса, С. К. Масуд из Хайдарабада вместе со своей семьей оказался заперт дома, как и большинство других граждан страны. Однажды днем, не нарушив комендантского часа, он отвез своего тестя на скутере на соседний рынок, чтобы выполнить пару срочных поручений. Когда они ехали домой по узким улицам преимущественно мусульманского района Шахран, Масуд увидел группу из двух десятков полицейских, которые останавливали людей, проезжавших мимо на велосипедах и скутерах, и фотографировали их на планшеты.
Они остановили Масуда и попросили его снять маску. «Я спросил: зачем? Мне не хотелось снимать маску. Я сказал, что не собираюсь ее снимать», – вспоминает он. Полицейские посовещались, отступили на шаг от Масуда и сфотографировали его прямо в маске – так, чтобы в кадр вошел и номер его скутера.
Через несколько дней он прочитал, что полиция Хайдарабада использует установленное на планшетах приложение, чтобы следить за жителями города с помощью технологии распознавания лиц.
Это приложение под названием TS-Cop вносило фотографии, сделанные полицейскими, в базу данных, где среди прочих содержались снимки бывших преступников, людей, подозреваемых в совершении преступлений, и мелких правонарушителей. Все полученные изображения использовались для обучения системы распознавания лиц{66}. Когда фотография Масуда попала в эту базу, она стала доступна и другим государственным органам и правоохранителям. «Я понял, что полиция создает всеобъемлющую базу данных граждан, – сказал он. – Меня это очень обеспокоило, ведь меня сфотографировали, и мне хотелось понять, в какую базу данных поместят этот снимок, удалят ли его потом и кому еще дадут к нему доступ. Я ничего из этого не знал».
В тот день хайдарабадская полиция совершила ошибку, решив сфотографировать именно его. В 2007 году, когда Масуду было двадцать три, в мечети неподалеку от его дома, куда ходили на молитву его друзья и близкие, взорвалась самодельная бомба, которая была приведена в действие с помощью мобильного телефона. Погибло не менее десятка человек, и после этого район захлестнули беспорядки на религиозной почве. В последующие недели местная полиция начала незаконно задерживать и арестовывать молодых мусульман{67}. Этот теракт подтолкнул Масуда заняться общественной деятельностью.
После взрыва он принялся укреплять свое сообщество, вооружая его информацией. В последующие пятнадцать лет он работал с сотнями молодых мусульман и мусульманок, объясняя им, чего они могут ожидать от государства, какие льготы им положены, какие у них есть права и как
