«Аль-Каида», которая начала протягивать свои щупальца в этом регионе. О содержании проповеди стало известно местным повстанцам, и через несколько дней трое молодых людей пришли потолковать с Салемом на свадьбе его племянника. Он согласился продолжить разговор вечером и взял с собой своего родственника Валида, единственного полицейского в деревне. Пятеро мужчин встретились после захода солнца. С неба над пустыней упали четыре ракеты, и никого не осталось в живых.
Вся деревня видела, как американский беспилотник нанес удар, убивший имама и полицейского. Их семьи были безутешны. Той же ночью Файсалу позвонил йеменский чиновник, который сказал, что члены его семьи не должны были погибнуть – они просто оказались не в том месте не в то время, поскольку система наведения беспилотников ошибочно посчитала, что Салем и Валид связаны с молодыми повстанцами.
Такие атаки, где личности жертв неизвестны, а цели выбираются по поведенческим признакам, называются «сигнатурными ударами». Они составляли бо́льшую часть из 542 ударов, нанесенных беспилотниками в период президентства Барака Обамы{155}.
Крайдер обнаружила, что американское правительство как минимум с 2011 года экспериментирует с искусственным интеллектом, чтобы выслеживать и вычленять цели, ориентируясь по данным с мобильных телефонов. Возможно, ракеты по Салему и Валиду запустил человек, но Крайдер уверена, что атака производилась по наводке компьютерной программы. Тогда она впервые увидела, на что способны автоматизированные технологии, которые меняют – и даже прерывают – человеческие жизни.
Сегодня десятки компаний, от стартапов до крупных государственных корпораций, создают арсенал ИИ-инструментов для военного и оборонного использования. Получив новую жизнь благодаря конфликтам на Украине и на Ближнем Востоке, эти системы финансируются министерствами обороны и разрабатываются для осуществления морской разведки в международных водах, для опознания и отслеживания террористов, а также для обнаружения, блокировки и уничтожения летающих беспилотников.
Крайдер полагает, что если не внедрить мирные и законные меры для противодействия этим непрозрачным технологиям, неконтролируемо и без разрешения проникающим в наше общество, мы начнем терять над ними контроль.
Для сравнения она указывает на современную версию такого общества. «Китай – настоящая антиутопия с точки зрения индивидуальных и коллективных свобод, – говорит она. – Так случается, когда люди не могут вернуть себе власть».
Но в Китае тоже есть отважные диссиденты – правозащитники и поборники справедливости, которые, рискуя собой, не боятся высказываться против применения ИИ-технологий в отношении невинных людей. Чтобы узнать, как сходят с рельсов автократические ИИ-системы, я решила расспросить об этом одного из таких смельчаков.
Глава 9
Ваше будущее
Я удивилась, что Майя Вонг все-таки пришла на нашу встречу в одном из вашингтонских кафе. У нее была по меньшей мере сотня причин этого не делать. Она проявляет чрезвычайную осторожность, когда встречается и разговаривает даже с близкими друзьями. Она тщательно вычищает из интернета любые персональные данные, по которым ее можно вычислить. Когда ее цифровые устройства проявляют необычную активность или когда ей звонят спамеры, она тотчас принимает защитную стойку. Ей приходится следить за тем, чтобы ее действия не выдали ее близких и чтобы ее близкие случайно не выдали ее. Иногда ей кажется, что ее жизнь состоит из одних тревог о собственной безопасности. Мысли об этом не покидают ее с того момента, когда она открывает глаза утром, до той секунды, когда ее голова касается подушки вечером.
У нее есть и более масштабные, более общие тревоги: о цифровой слежке в материковом Китае и правах живущих в этом регионе граждан. Чем больше она узнаёт о слежке в ходе своих исследований, тем больше ее тревожит судьба человечества.
Одному человеку непросто выносить такое на своих плечах.
И поэтому я особенно благодарна Майе за то, что она, немного промокнув под апрельским дождем, все же пришла на нашу встречу. «У нас в Китае есть поговорка: горы высоки, а император далеко, – говорит она. – Я могла бы жить в Сычуани, но жить свободно, потому что император в Пекине. Но теперь дело обстоит иначе. Никогда еще во всей истории человечества не существовало ни одной империи, ни одного государства, которое занималось бы такой масштабной и глубокой слежкой за людьми».
Теперь, когда Майя живет в США, она может более открыто говорить о своей работе в некоммерческой организации Human Rights Watch, где она уже почти десять лет фиксирует нарушения прав человека китайским правительством, занимая должность старшего исследователя ситуации в Китае. Она скучает по Восточной Азии – она предпочла бы сейчас оказаться в Тайване, – но в США ей тоже нравится. Покинув Китай и близлежащие регионы, Майя больше не боится, что ее похитят прямо на улице. Ей кажется, что в определенной степени она успела влиться в новое для себя американское общество, хотя и не сразу поняла, как гасить долги по кредитным картам. «Здесь большинство людей не считают тебя иностранцем, даже если у тебя совсем другой акцент, – говорит она. – Твоя кожа может быть хоть синей, а люди все равно будут видеть в тебе американца. Мне всегда нравилась эта особенность США».
Она признает, что работать ей приходится в одиночку: она живет между мирами и изучает непонятные коды и документы китайской полиции, пытаясь привлечь внимание к технократической утопии, столь непохожей на Вашингтон. Но она знает, что ведет эту борьбу не одна. Есть целая группа людей, ее коллег и соратников, которые работают в одном направлении, как правило вместе. Я позволила себе заметить, что существуют и другие пути – другие профессии, которые гораздо проще и безопаснее. Майя тут же цыкнула на меня. «Чем же еще заниматься в жизни? – сказала она. – Только пытаться делать правое дело и служить на благо общества».
* * *
После разгона властями студенческой демонстрации на площади Тяньаньмэнь в 1989 году Китай почти десять лет пребывал в вынужденной дипломатической изоляции от Запада{156}. Но в начале 2000-х годов мир взбудоражило появление интернета – новой сети, которая сближала людей. Интернет – вкупе с укреплением китайской экономики, усилением миграции в города и повышением уровня образования молодежи – принес в Китай ощущение некоторой открытости. Уже к 2008 году в интернет вышло около четверти населения Китая – почти 300 млн человек{157}.
Вскоре там возникло цифровое сообщество правозащитников, адвокатов, журналистов и активистов, называемое «вэйцюань», или «правозащитное движение»{158}. Они использовали интернет как платформу, чтобы привлекать внимание к несправедливостям и организовывать протесты. По мере расширения аппарата внутренней государственной безопасности правозащитникам в Китае все сильнее связывали руки, но онлайн-движение сопротивления продолжало расти. Интернет показал людям не только то, что было на уме у их знакомых,
