о них заявлять. В итоге он стал борцом за гражданские права и поборником интересов таких национальных меньшинств, как его собственное.
Когда его сфотографировали полицейские, Масуд поговорил с другим гражданским активистом и объяснил ему суть технологии распознавания лиц. Он начал замечать камеры в бедных, преимущественно мусульманских районах и гадал, как именно их используют. В тот же год группа правозащитных организаций, в которую вошла и Amnesty International, привлекла местных добровольцев к созданию карты видимых камер видеонаблюдения в двух районах, включая Кала-Патар, где со своей семьей живет Масуд.
Они обнаружили, что камеры обозревают около 54% общей площади этих районов{68}. Предполагалось, что впоследствии их свяжут с тысячами других городских камер, а получаемое видео будет обрабатываться в центре «управления и контроля», находящемся в элитном районе Банджара-Хиллс примерно в десяти километрах к северу от дома Масуда.
Масуд перестал участвовать в политических протестах и посещать религиозные праздники и даже перестал молиться в мечети Мекка Масджид неподалеку от дома. Но ему хотелось дать властям отпор. В результате он стал первым, кто подал в суд на индийское правительство – а именно на штат Телингана, где находится Хайдарабад, – обвинив его в создании базы данных лиц граждан и нарушении его базового права на частную жизнь.
Готовясь к рассмотрению своего дела в суде, Масуд стал больше читать о технологиях. Он нашел сообщения о том, что израильская армия и правительство применяли такие же методы слежки в Палестине. Он прочитал, что их камеры видеонаблюдения оснащались алгоритмами распознавания лиц, а все данные были доступны полицейским прямо с мобильных телефонов.
Копнув глубже, он нашел сведения о том, как ИИ-надзор порой ошибочно, а порой злонамеренно используется против чернокожих людей в США и против мусульман-уйгуров в Китае – как создают их профили, берут их на видеоприцел и опознают в общественных местах. Он подозревал, что такая же модель внедряется в Хайдарабаде: представителей меньшинств – в этом случае религиозных – массово опознают, не имея на это никаких законных оснований. Из-за этого люди вроде него чувствуют себя преступниками, не совершив никакого преступления. Они лишаются возможности свободно ходить по улицам и собираться в группы, не привлекая к себе повышенного внимания. Им приходится постоянно оправдываться за свое существование.
«Они не останавливают машины и не просят водителей и пассажиров снять маски – так зачем останавливать бедняков на скутерах?» – спросил Масуд.
Его дело по-прежнему рассматривается в различных судебных инстанциях, и полицейские утверждают, что имеют право применять технологию распознавания лиц к гражданам, чтобы предотвращать подозрительную деятельность и поддерживать порядок.
«Они не могут провернуть такое в Банджара-Хиллс или в Джубили-Хиллс, – говорит Масуд, имея в виду богатые районы Хайдарабада. – В основном они занимаются этим в трущобах и на юге Хайдарабада, где живут главным образом меньшинства и далиты. Но почему [им нужны] именно мы?»
* * *
В 2020 году уэльский активист Эд Бриджес одержал знаменательную победу в первом в мире процессе против использования технологии распознавания лиц полицией. Судья постановил, что существуют «принципиальные недоработки» в правовых нормах, регулирующих применение технологии полицией Южного Уэльса, против которой Бриджес и подал иск, и что полицейские имели слишком большую свободу действий{69}.
Несмотря на это решение, британские правоохранительные органы по всей стране продолжают расширять применение технологии распознавания лиц в реальном времени, утверждая, что не обязаны отказываться от нее, поскольку их долг – защищать граждан.
Как отмечает Карл Риканек, было бы безопаснее, если бы следователи применяли инструменты распознавания лиц при работе с фотографиями подозреваемых, хранящимися в полицейских базах, вместо того чтобы использовать их вживую, когда эмоции захлестывают, а вероятность совершить ошибку становится выше.
Отчасти проблема состоит в отсутствии международных законов и стандартов в отношении технологии распознавания лиц. В обществе не смолкают дискуссии о технических стандартах для компаний и этических и социальных правилах, которые необходимо принимать на государственном уровне, но слов много, а дела мало.
Поскольку стандартов и аудиторских требований к ИИ-алгоритмам не существует, в разных уголках мира – и даже в разных регионах одной страны – могут применяться совершенно разные ИИ-программы. Например, в Лондоне могут использовать систему распознавания лиц, разработанную для минимизации расовой предвзятости, но в Манчестере могут наблюдаться слишком частые ошибки при распознавании лиц темнокожих людей. В Москве может работать система с гендерными перекосами, в Гонконге – с проблемами при распознавании европеоидных лиц. Никто из объектов наблюдения при этом не будет знать, какие законы на них распространяются, и не сможет понять, почему их опознают и берут под наблюдение. У нас просто не будет иного выбора, кроме как покориться кафкианским черным ящикам.
Попытавшись представить, каким в таком случае станет мир, я нашла зарисовку о распознавании лиц, написанную индийским романистом Раной Дасгуптой. В ней отражены мои страхи о жизни в мире, где больше нет свободы действовать – а возможно, и думать, – оставаясь при этом наедине с собой.
«Когда все истины до единой стали известны – когда их в полной мере и одновременно узнали все и всюду, – ложь исчезла из общества, – пишет Дасгупта. – И вместе с ней исчезло и само общество».
Глава 4
Ваше здоровье
Ашита
В небольшой деревушке Чинчпада, расположенной примерно в ста пятидесяти километрах от западного побережья Индии, стоял солнечный декабрьский день, и доктор Ашита Сингх единственная из врачей дежурила в местной больнице. Она пыталась понять, что не так с четырнадцатилетней Парвати, которую утром привезли на мотоцикле из деревни в трех часах пути отсюда. Она была в тяжелом состоянии: в груди у нее зияла рана, она весила не больше пятилетнего ребенка и не могла сама переворачиваться в кровати. Ашита сделала рентген, чтобы проверить, нет ли у Парвати признаков туберкулеза, который бушевал в том регионе. Но очевидного затемнения, характерного для зараженных туберкулезом легких, на снимках не оказалось. И все же Ашита подозревала, что виной всему проклятая бактерия, которая убила уже немало ее пациентов. В тот момент Ашита уже не в первый раз пожалела, что в этой маленькой больнице ей совершенно не с кем посоветоваться.
Ветви розовой бугенвиллеи нависали над краснокирпичным забором Чинчпадской христианской больницы, делая больницу нарядной, как на картинке. Внутри на крашеных деревянных скамейках сидели многочисленные пациенты, которые проделали многочасовой путь, чтобы показаться врачу: одни пришли пешком, другихпривезли на мотоциклах, третьи добирались на гужевых повозках и на автобусах. Кроме Ашиты, в больнице работало семь младших врачей, но среди них не было радиолога.
Ашита и ее муж Дипак, единственный хирург на всю округу,
