свою студию диван. «В этом не было никакой необходимости», – сказала мне Эмили, когда мы сидели на том же месте на Грэнери-сквер. Но они художники, и они хотели четко выразить свой протест. Кроме того, занимаясь пространственным искусством и проявляя интерес к ландшафту и окружающей среде, они также хотели поразмыслить о том, как постоянное наблюдение за людьми в общественных пространствах меняет города и их жителей.
Еще до появления идеи Dazzle Walks, или «Ослепляющих прогулок», Эмили и ее творческий партнер Джорджина экспериментировали с CV Dazzle – особой техникой грима, которую берлинский художник и специалист по информатике Адам Харви разработал для того, чтобы скрываться от программ распознавания лиц. Опираясь на технику «ослепляющего камуфляжа», которая использовалась для покраски военных судов в период Первой мировой войны, Харви предложил особым образом гримировать лица, чтобы сбивать с толку компьютерные алгоритмы.
Модели распознавания лиц, как правило, используют ключевые точки – глаза и область вокруг них, брови, лоб, нос – и лицевую симметрию, чтобы размечать и впоследствии распознавать лица. Рисуя на лице ломаные линии и беспорядочные формы, скрывая одну бровь или часть губ, можно при помощи обычной кисти нарушить симметрию и скрыть ориентиры, сделав лицо невидимым для многих доступных сегодня систем.
«Я из Лемингтон-Спа, где работал целый коллектив художников, которые назывались “Маскировщиками” и красили здания, скрывая их от истребителей и подводных лодок во время Второй мировой войны, – сказала Эмили. – Снова и снова именно художники находят альтернативные способы сделать дискуссию более доступной для публики».
По нынешним законам нам не всегда дается право выбирать, соглашаться ли на ИИ-надзор, – даже если он организован частным сектором. Как индивиды, мы оказываемся бессильны, когда камеры сканируют наши лица и когда наши изображения используются для обучения ИИ-программ, осуществляющих этот надзор. После выхода моей статьи о камерах наблюдения в районе Кингс-Кросс британская служба по защите неприкосновенности персональных данных начала расследование, однако на момент написания этой книги оно до сих пор не закончено.
Исследования, проведенные британским Управлением уполномоченного в сфере информации, показали, что использование технологии распознавания лиц меняет способы самовыражения людей на публике – от того, как они высказывают свои политические и религиозные предпочтения, до того, как одеваются и как себя ведут{58}. По мере распространения этой технологии самые уязвимые из нас – те, кто пребывает под пристальным вниманием полиции, а также активисты и журналисты – станут постоянно и абсолютно видимыми за пределами своих домов, и все, кто стремится к анонимности, будут вынуждены существовать в подполье, скрываться в тени или не выходить из дома. На самом интимном уровне широкое распространение технологии распознавания лиц приведет к тому, что нам станет сложно хранить секреты и вести частную жизнь.
По мнению Эмили, установка «умных» камер подрывает коллективное доверие, которое существует в обществе и которое особенно необходимо женщинам в публичных пространствах. «Поэтому мы и основали Dazzle Club – нам нужно физически находиться в общественных пространствах и присматривать друг за другом, – сказала она. – Мы не должны быть вынуждены прятаться от технологий, опасаясь слежки».
Первая демонстрация, начавшаяся в сквере у Института Крика и закончившаяся на Грэнери-сквер, в итоге вылилась в двадцать четыре других прогулки, в которых приняли участие десятки художников, активистов и обычных людей. Они гуляли не только в Кингс-Кросс, но и в других районах Лондона, а позже – в Манчестере, Лидсе, Плимуте, Бристоле, Бирмингеме и Маргите. Тщательно спланированные маршруты прогулок пролегали по жилым массивам и улицам, оснащенным «умными» камерами. Разговаривать и пользоваться телефонами не позволялось – участники прогулок посвящали час размышлению о том, что за ними постоянно наблюдают.
Через два года Dazzle Club распался с началом пандемии COVID–19, а основавшие его художники решили двигаться дальше. Эмили и ее друзья по-прежнему приходят в гриме на такие мероприятия, как фестиваль в Гластонбери, где используется огромное количество камер наблюдения, но теперь они подумывают возродить Dazzle Club, поскольку применение технологии распознавания лиц по-прежнему практически не регулируется.
Последняя прогулка, которую организовала Эмили, прошла в ее родном Стратфорде на востоке Лондона, где полиция изначально испытывала – а затем внедрила – системы распознавания лиц, чтобы идентифицировать прохожих. Группа начала и закончила прогулку возле обшарпанного торгового центра Stratford, стоящего через дорогу от молла Westfield. «Это место хорошо подходило для завершения прогулок, – сказала Эмили, – и разговора о том, насколько заметными оказываются определенные группы людей, когда такие пространства оборудуются камерами с распознаванием лиц».
ИИ-надзор на экспорт
В первую очередь технология распознавания лиц оказывает влияние на жизнь отдельных людей, таких как Найджер Паркс, Амара Маджид и множество безымянных пешеходов, попадающих на камеры в разных странах. Но становится все очевиднее, что использование этих систем сказывается и на целых сообществах, ограничивая свободу людей, живущих в больших городах, и лишая их возможности влиять на ситуацию.
В Найроби и Кампале сферические камеры Huawei, как черные блестящие леденцы, застыли на фонарных столбах, стоящих вдоль загруженных дорог. Немигающие глаза следят за пассажирами на вокзале Зюдкройц в Берлине и на вокзале Ретиро в Буэнос-Айресе. Камеры наблюдают за детьми в государственных школах Дели и Гонконга. Они охраняют и улицу Вилакази в Йоханнесбурге, где выросли Нельсон Мандела и Десмонд Туту. Китайская полиция располагает крупнейшей в мире национальной базой данных, в которую входит более миллиарда лиц, и граждане страны постоянно опознаются в публичных местах{59}.
Двадцать шестого января 2021 года, когда Индия отмечала семидесятый День республики, разношерстные патриоты ручейками и бурными реками стекались с отдаленных окраин Нью-Дели в самое сердце города. Десятки тысяч фермеров из маленьких городов и деревень Сингху, Тикри и Газипур въезжали в центр на тракторах и лошадях, подняв индийский триколор – тирангу. Они протестовали против нового строгого аграрного законодательства, принятого центральным правительством, и боролись за свой кусок хлеба – и за выживание своих семей.
Тем временем тысячи доблестных солдат шли парадом на наряженных верблюдах по роскошному бульвару Раджпатх в самом центре столицы. В параде также участвовали боевые танки и рассекающие небо реактивные самолеты.
Прорвав полицейские баррикады, фермеры внесли сумятицу в этот стройный порядок. Они направляли свои тракторы на флагштоки и уничтожали городскую собственность. За ними при этом наблюдали сотни камер, которые распознавали их лица.
Полиция сработала быстро и сурово: против протестующих применили слезоточивый газ, дубинки и электрошокеры. В последующие дни власти дали понять, что такое нарушение спокойствия не обойдется без последствий. «Мы используем систему распознавания лиц и анализируем видеозаписи с камер наблюдения, чтобы опознать нарушителей, – заявил начальник полиции Дели. – Ни
