навигации американского подводного флота. Тогда компьютерное зрение развивалось медленно: исследователи обучали машины просто распознавать объекты, а не устанавливать личность людей. Технология пребывала в зачаточном состоянии – и работала ужасно. Карл создавал алгоритмы для того, чтобы компьютер мог называть предметы: это бутылка, это очки, это стол, это люди. С каждым годом их точность медленно, но верно повышалась.
Затем появился новый тип ИИ, известный как глубокое обучение, – тот самый, что позволил злоумышленникам создать сексуально извращенные дипфейки Хелен Морт и Ноэль Мартин и лег в основу ChatGPT. Развитию этой прорывной технологии способствовали огромные объемы данных – миллионы загружаемых в интернет фотографий, которые подходили для обучения новых алгоритмов распознавания образов.
Глубокое обучение превратило скромные успехи, которые наблюдал Карл, в настоящий прогресс. Точность алгоритмов, которая раньше повышалась на 1% в год, теперь ежегодно возрастала на 10%. Это значит, что программы отныне можно было применять не только для классификации объектов, но и для распознавания уникальных лиц.
Когда Карл только начинал заниматься проблемой распознавания лиц, эту технологию не предполагалось применять в реальном времени к протестующим, пешеходам и обычным людям. Она должна была стать инструментом для анализа фотографий. С самого ее зарождения в 1990-е годы ученые знали, что в работе алгоритма встречаются неточности и предвзятость. Но они не понимали, почему.
Биометристы считали эти проблемы чисто академическими и видели в них любопытное испытание для зарождающейся технологии компьютерного зрения. Ученые сходились во мнении, что технология еще не готова для широкого использования, и не собирались извлекать из нее выгоду.
Технология постепенно развивалась, и Карл начал разрабатывать на базе ИИ экспериментальные аналитические модели для выявления на лице человека физических признаков сердечно-сосудистых заболеваний и болезней Паркинсона и Альцгеймера. Например, одним из распространенных симптомов болезни Паркинсона является застывшее выражение лица, которое возникает из-за скованности мимических мышц. С помощью ИИ можно анализировать эти микромышечные изменения и заблаговременно диагностировать болезнь. Карл сказал мне, что представлял, как изобретает зеркало, в которое человек будет смотреться каждое утро и которое сообщит ему (или доверенному лицу), что у него развиваются симптомы нейродегенеративного заболевания. Он основал коммерческую компанию Lapetus Solutions, которая анализирует лица людей и прогнозирует продолжительность их жизни для рынка страховых услуг.
Его системы использовались правоохранительными органами для поиска похищенных детей и знаменитых гангстеров, включая Уайти Балджера. Он даже занимался распознаванием лиц людей, совершивших гендерный переход, и тестировал свои системы на видеозаписях с проходящими гормональную терапию, хотя подобное применение этой технологии и вызывает ожесточенные споры. Карл сосредоточился на тайнах, скрытых в человеческом лице, и не задумывался о проблемах и последствиях использования разрабатываемых при его участии инструментов.
Правительство США осознало необходимость внедрения технологий наблюдения буквально в одночасье после теракта 11 сентября 2001 года. На развитие этих систем стали направляться огромные средства. Эта проблема перестала быть чисто академической, и за несколько лет правительство США создало огромные базы данных с лицами и другими биометрическими данными миллионов иракцев, афганцев и американских туристов, путешествующих по миру{45}. Государство активно инвестировало в коммерциализацию таких биометрических исследований, как проекты Карла. Получив от Министерства обороны финансирование для совершенствования алгоритмов, он стал работать над системами распознавания плохо различимых лиц, лиц в масках, а также лиц молодых и пожилых людей. Американские правоохранительные органы приспособили контртеррористические технологии, включая системы распознавания лиц, для контроля за уличной преступностью, бандитизмом и даже гражданскими протестами.
Карлу стало сложнее не обращать внимания на то, во что превращаются ИИ-технологии анализа лиц. И все же в эти годы он избегал критики социальных последствий мощной технологии, в создании которой участвовал. Он редко работал в университетских комиссиях по этике и стандартам, считая их бюрократическими органами, отнимающими слишком много времени. Он называл критиков распознавания лиц «воинами социальной справедливости», которые не имеют практического опыта разработки этой технологии. Он полагал, что создает инструменты, чтобы спасать детей и находить террористов, а все остальное казалось ему ерундой.
Но в реальности все было сложнее. Технологические компании, большие и малые, имели доступ к гораздо большему объему данных о лицах, а также коммерческий стимул для продвижения новой технологии. Корпоративные гиганты, такие как Meta и китайский TikTok, и стартапы, включая нью-йоркский Clearview AI и российский NTech Labs, располагали даже более крупными базами лиц, чем многие правительства, не говоря уже об исследователях вроде Карла. И перед ними стояла одна цель – зарабатывать деньги. Вскоре эти представители частного сектора использовали системы распознавания лиц, созданные исследовательскими институтами – в том числе университетом, где работал Карл, – и стали продавать несовершенные программы полиции, спецслужбам, государственным и частным организациям по всему миру. В январе 2020 года в газете New York Times вышла статья о том, что компания Clearview AI использовала миллиарды фотографий из интернета – в том числе с сайтов LinkedIn и Instagram – и создала действенную программу распознавания лиц, которую приобрели полицейские органы нескольких стран{46}.
Эта технология стала внедряться повсюду, от Аргентины и Алабамы до Айршира, и зажила своей жизнью, разлетаясь по свету и пуская корни, как одуванчик. В Уганде, Гонконге и Индии ее применяли для подавления политической оппозиции и гражданских протестов{47}. В США – для поиска участников протестов Black Lives Matter и штурма Капитолия во время волнений в январе 2021 года; в Лондоне – для наблюдения за гуляками на ежегодном афро-карибском карнавале в Ноттинг-Хилле{48}.
И ее используют не только для поддержания порядка: с помощью системы распознавания лиц ловят карманников и мелких воришек. Система установлена в знаменитом лондонском пабе Gordon’s Wine Bar, где технология ищет уже знакомых нарушителей спокойствия{49}. Ее использовали даже для установления личности погибших в военных конфликтах солдат{50}. Вопрос о том, действительно ли она готова для широкого применения, сегодня стоит особенно остро, поскольку она уже влияет на жизнь миллиардов людей по всему миру.
Расовая проблема распознавания лиц
Карл понимал, что технология не готова для такого широкого внедрения. В 2018 году Джой Буоламвини, Тимнит Гебру и Дебора Раджи – три чернокожие исследовательницы из Microsoft – вместе с другими соавторами опубликовали статью, в которой сравнили точность систем распознавания лиц от компаний Microsoft, Face++ и IBM{51}. Они обнаружили, что частота ошибок при распознавании светлокожих мужчин не превышает 1%, но доходит до 35% при распознавании темнокожих женщин. Карл знал, что в 2019 году Найджер Паркс из Нью-Джерси провел десять дней в тюрьме и заплатил несколько тысяч долларов, пытаясь защититься от обвинений в магазинной краже и нападении на полицейского в Вудбридже{52}. Система распознавания лиц, применяемая полицией Вудбриджа, ошибочно распознала
