месяцев создали приложение
Can You Forgive Me («Можешь меня простить?»). В приложении пользователю предлагалось загрузить портретную фотографию своей девушки, после чего ИИ-технология определяла, фигурировала ли эта девушка в любительском или профессиональном порно и становилась ли жертвой порномести.
Позже Scsky заявлял, что приложение могут использовать и женщины – чтобы находить и удалять обнаженку, размещенную в интернете без их согласия. Однако в ходе интервью с ним моя коллега Юань Ян выяснила, что его идея сводилась к поиску «сексуально раскрепощенных» китаянок, чтобы программисты и инженеры – в большинстве своем мужчины, которых считают наивными и неопытными в романтических отношениях, – могли пресекать то, в чем видели злоупотребление их доверием.
Это приложение возмутило китайских феминисток, посчитавших его инструментом преследования женщин, которые не боятся высказывать свое мнение – в частности, отвергая мужчин. Такое поведение изучалось в более масштабном исследовании, опубликованном в 2022 году в период судебных разбирательств между Джонни Деппом и Эмбер Херд и показавшем, что женщин, которые открыто выражают свое мнение и ведут себя уверенно, порой считают «неприятными»{40}.
Потенциальная опасность, которой подвергаются женщины за пределами западных стран, не дает спокойно спать правозащитнице Ракель Васкес Льоренте. Она давно раздумывает о том, как защищать права человека и свободу самовыражения в мире производимого ИИ синтетического контента, включая дипфейки. Ее беспокоит, что инструменты ИИ могут войти в арсенал авторитарных режимов, которые начнут использовать дипфейк-видео и изображения для дискредитации людей на персональном уровне.
Правозащитное сообщество, в которое входит Льоренте, прекрасно понимает, что правительства развивающихся и авторитарных государств гораздо более склонны злоупотреблять новыми технологиями, такими как ИИ, и потому активисты в этих странах в перспективе примут на себя основной удар{41}.
Льоренте работает в некоммерческой организации WITNESS, которая помогает людям использовать видеотехнологии для защиты прав человека по всему миру. Начиная с 2019 года эта организация проводит в разных уголках мира – в Найроби, Претории, Куала-Лумпуре, Сан-Паулу – семинары, где встречаются журналисты, активисты и правозащитники из соответствующих регионов{42}. Их цель в том, чтобы обсудить угрозы и возможности, которые дипфейки и другие технологии порождающего ИИ могут привнести в правозащитную деятельность, выявить насущные проблемы и разработать рекомендации для дальнейшей регулятивной работы в этой сфере.
На этих семинарах стало очевидно, что делегаты из Африки, Юго-Восточной Азии и Латинской Америки особенно боятся использования синтетического контента для подрыва доверия к их работе. Они опасаются применения дипфейков и других ИИ-технологий для целевых гендерных атак и фальсификации сведений о людях, которые борются с режимом.
«Их уже используют, чтобы дискредитировать работу активисток и защитниц прав женщин, – сказала мне Льоренте. – Если вставить ваше лицо в порноролик и распространить его, то в лучшем случае ваша работа будет дискредитирована, в худшем – вас вовсе убьют. Я нахожу правозащитников из Йемена и с Ближнего Востока, против которых ведутся кампании с использованием дипфейков, и пытаюсь понять, как их защитить. В местах, где за такое могут убить, активисты подвергаются опасности».
* * *
Цифровые технологии развиваются, и со временем вред от порождающего ИИ может переместиться из реального мира в виртуальный. Ноэль изучает этот вопрос как правовед в Университете Западной Австралии. Искусственный интеллект также лежит в основе так называемой метавселенной – трехмерной онлайн-вселенной, популяризируемой компанией Facebook, которая была переименована в Meta. В метавселенной можно в форме аватара путешествовать по реалистичным мирам, населенным другими аватарами настоящих пользователей и объектами, с которыми можно взаимодействовать. Любой может заходить на такие платформы, как Roblox, Fortnite и Decentraland – и даже на Horizon Worlds, принадлежащую Meta, – и играть там в игры.
Доступ к Horizon Worlds осуществляется с помощью шлема виртуальной реальности Oculus Quest 2, разработанного в Meta. Эта платформа использует порождающий ИИ, чтобы создавать аватары, которые мгновенно переводят речь с языка на язык, обеспечивают работу чат-ботов в этой экосистеме и даже предоставляют возможности для создания детализированных виртуальных сред с помощью голосовых команд.
В 2021 году британская тележурналистка Йинка Бокинни проводила секретное расследование для документального фильма канала Channel 4 и входила в метавселенную с помощью шлема Oculus Quest 2 через два приложения, доступные в магазине Oculus{43}. В этих виртуальных пространствах она столкнулась с необузданной сексуальной агрессией, домогательствами, расизмом и даже с насилием над несовершеннолетними. Едва оказавшись в одной из сред, доступных на платформе Oculus, которая принадлежит Facebook, она стала свидетельницей разговоров о сексе с детьми, услышала ксенофобские высказывания, пережила расовые нападки и виртуальное нападение.
В статье для Guardian она писала: «В какой-то момент меня окружили семеро пользователей, которые попытались заставить меня снять защитную оболочку, чтобы получить доступ к моему телу… Это было виртуальным аналогом изнасилования»{44}.
Бокинни отметила, что у нее возникло странное чувство, будто над ней надругались, хотя все происходило в виртуальном мире. «Я понимаю, что это не реально, но в этом шлеме и правда кажется, что ты находишься прямо там, – написала она. – Шлем заставляет тебя поверить, что происходящее с тобой реально. Ты забываешь, что в действительности все не так. И это пугает».
До и после
В конечном счете, порождающий ИИ, как и любой другой способ обработки изображений с помощью систем искусственного интеллекта, влияет на человека точно так же, как и более старые технологии вроде фотошопа и даже порноместь.
Профессор права Клэр Макглинн побеседовала более чем с 75 потерпевшими из Великобритании, Австралии и Новой Зеландии, которые столкнулись с различными надругательствами с использованием изображений, от порномести до дипфейков, и попыталась выяснить, как такие преступления влияют на людей. Все жертвы отметили, что постоянно боятся, что их узнают и что изображения разойдутся еще шире. «Их жизнь делится на “до” и “после”, – сказала Макглинн. – Они меняют школы, меняют адреса, меняют работу. Одна женщина рассказала, что поправилась и перекрасила волосы, потому что боялась, что ее узнают на улице, и полностью изменила свой образ, чтобы ее стало не узнать».
Ноэль сегодня работает юристом и занимается исследованиями в Университете Западной Австралии, где изучает технологии и их регулирование, фокусируясь на иммерсивных технологиях, включая дипфейки и метавселенную, и их влиянии на людей.
За последние годы, проведенные под постоянным натиском со стороны абьюзеров, Ноэль не один десяток раз обращалась за поддержкой к друзьям. Особенно тяжело ей пришлось, когда она только начала бороться за свои законные права, и месяц за месяцем она сталкивалась со все более циничными надругательствами. «Я не могла просто общаться с друзьями так, как хотела бы, – сказала она. – Все разговоры всегда сводились к моим проблемам».
Ноэль казалось, что люди не понимают, как
