такие притеснения сказываются на повседневной жизни – на людях, с которыми ты знакомишься, на каждом собеседовании, на каждом романе, на каждой дружбе. Поскольку большинство людей толком не знает, как работает технология ИИ, Ноэль приходится постоянно это объяснять, и вкупе с надругательствами как таковыми это эмоционально изматывает ее, вызывая стресс.
У нее возникало ощущение, что никто из новых знакомых не видит в ней ничего, кроме ее истории, и из-за этого ей казалось, что люди заранее делают о ней выводы и не могут воспринимать ее как многогранную личность. Недавно она сходила на первое свидание с человеком, с которым познакомилась в интернете. «Я не планировала говорить о произошедшем и не упоминала об этом в своем профиле. Я считаю, что не обязана всем подряд рассказывать историю о своей чудовищной боли, если мы даже не знакомы лично», – сказала она. Однако на свидании мужчина сказал, что уже поискал информацию о ней, и в этот момент удовольствие от общения сменилось неловкостью и унижением.
И все же она не перестает высказываться о проблеме, надеясь стать путеводной звездой для других людей, которые пытаются справиться с травмирующим опытом столкновения с дипфейками, выбивающим любого из колеи, и помочь им поставить в своих историях точку. Как и многие другие жертвы, она просто хочет, чтобы оскорбительные изображения были удалены, а притеснения прекратились, – и ей кажется, что регулировать эти вещи не так уж и сложно. Она годами открыто говорит о проблеме, участвует в различных мероприятиях и правительственных кампаниях, неустанно выступает против сексуальных надругательств с помощью изображений и лоббирует изменение законов в Австралии и на уровне Британского Содружества. Она добилась некоторых успехов, но понимает, что этого мало. Технология дипфейков постепенно становится совершеннее, дешевле и доступнее для обычных людей, и Ноэль видит, что количество жертв дипфейк-порно продолжает расти.
Она пришла к выводу, что отдельным странам не под силу контролировать интернет своими разномастными законами, исполнение которых контролируется лишь на внутреннем уровне (или не контролируется вовсе). Поскольку технологии ИИ распространяются все шире и становятся все более продвинутыми, Ноэль полагает, что должны существовать международные законы и стандарты, чтобы злоумышленники не могли уходить от правосудия, как произошло в ее случае. И поэтому она продолжает борьбу.
«Я не покривлю душой, если скажу, что порой это кажется мне лучшим, что со мной вообще случалось», – говорит Ноэль, отмечая, что пережитое наполнило ее жизнь смыслом и подтолкнуло ее стать примером для остальных. Но она признается, что гораздо чаще считает наоборот. «Здесь все очень противоречиво – настоящий парадокс. Это одновременно и худшее, и лучшее, что могло со мной случиться».
Хелен отразила это же чувство в своем эссе «Дичь», где описала раскол, произошедший в ее душе после инцидента, и сравнила этот опыт с формированием ледника. Величественные ледяные плиты на протяжении столетий превращаются из мягкого снега в сложные и постоянно эволюционирующие структуры. Но только таяние ледника обнажает его скелет, который ученые называют «радикально эродированным ландшафтом», несущим на себе все шрамы своей истории.
Целительной мантрой для Хелен стала песня Джона Гранта Glacier («Ледник»), в которой описывается парадоксальный процесс превращения боли в красоту.
«Ее хочется слушать снова и снова», – написала в своем эссе Хелен.
Глава 3
Ваша личность
Впервые Карла Риканека остановили летом 1995 года за «вождение в чернокожем состоянии», как тогда говорили. Ему было двадцать пять лет, он только что получил диплом инженера и устроился на работу в Научно-исследовательский центр проблем подводной войны ВМС США в Ньюпорте (штат Род-Айленд) – богатом городе, который славится живописными пешими маршрутами вдоль утесов и особняками миллионеров. Тем летом он купил свою первую приличную машину – двухлетнюю темно-зеленую Infinity J30T, которая обошлась ему примерно в 30 тысяч долларов.
Однажды вечером, когда он возвращался домой в съемную квартиру в районе Фест-Бич, его остановили полицейские. Карл был вежлив и соблюдал дистанцию, зная, что не должен показаться воинственным или агрессивным. Он также не забывал держать руки на виду, понимая, что случится в ином случае. Он научился этому еще в детстве.
Полицейский спросил, как его зовут, и Карл ответил, хотя и не был обязан. Он прекрасно понимал, что должен слушаться, чтобы его скорее отпустили. Ему показалось, что в этот момент его лишили всех прав, но ему – и тысячам других таких же, как он, – приходилось с этим мириться, и он это знал. Коп указал на его машину. Хорошая машина, сказал он Карлу. Откуда у тебя деньги на такую крутую тачку?
Что он имеет в виду, сердито подумал Карл. Его вообще не касается, откуда у меня деньги на машину. Но вслух он сказал: «Я инженер. Я работаю в научно-исследовательском центре. Я купил эту машину на заработанные деньги».
Полиция остановила Карла не в последний раз. И даже не в последний раз в Ньюпорте. Когда он рассказывал друзьям и коллегам о том, как полицейский задавал ему бессмысленные вопросы, они лишь пожимали плечами, и он решил не поднимать шум. Вот только их никогда не останавливали просто за «вождение в белокожем состоянии», они не подвергались унижению, им не приходилось отвечать на вопросы полиции только из-за своей внешности, ничего при этом не нарушив, не приходилось оправдываться перед незнакомцами за свое существование и объяснять свои решения, и они не опасались быть убитыми в случае, если не подчинятся приказу.
Карл никогда не нарушал закон. Он работал не меньше других и делал все, что полагается умной молодежи в Америке. «Почему же, – думал он, – меня никак не оставят в покое?»
Могут ли компьютеры распознавать лица?
Карл вырос с четырьмя старшими братьями и сестрами в Динвуде – преимущественно черном районе на северо-востоке Вашингтона. Его отец был белым немцем, а мать – чернокожей. В восемнадцать лет он уехал из Вашингтона учиться, получив стипендию в Сельскохозяйственном и техническом университете штата Северная Каролина, который выпускает самое большое количество чернокожих инженеров в США. Именно там Карл научился решать проблемы с помощью технологий, а не с помощью социальных связей. Он привык делать упор на своих академических достижениях, а не на своем прошлом, чтобы коллеги относились к нему серьезнее.
Поработав в Ньюпорте, Карл решил заняться наукой в Университете Северной Каролины в Уилмингтоне. В частности, ему было интересно, как обучить компьютеры распознавать лица лучше людей. Цель казалась простой: сначала проанализировать, как люди видят лица, а затем обучить компьютеры видеть их лучше.
Делая первые шаги в науке в 1980-х и 1990-х, Карл участвовал в разработке ИИ-технологии для автономной
