или фигуры.
В число алгоритмов для создания дипфейков входят порождающие состязательные сети (GAN). Они работают в парах: одна сеть порождает свои версии новых изображений, а другая пытается определить, подлинное перед ней изображение или нет, отличить от настоящих изображений лиц, которые нужно воссоздать. Алгоритмы перекидываются картинками, и фальшивки постоянно совершенствуются и становятся все более убедительными, пока «алгоритм-детектив» не признает фальшивку подлинной. Эта технология может вставлять лица и целые тела на реалистичные снимки и видео – как жутковатые дипфейк-видео с Томом Крузом, которые распространились в TikTok в 2020 году.
GAN могут создавать высококачественные изображения и видеоролики быстрее и дешевле, чем профессиональные студии визуальных эффектов, что делает их привлекательной альтернативой в индустрии развлечений. Такие киностудии, как Industrial Light and Magic, принадлежащая Disney, и компании по созданию спецэффектов вроде Framestone уже экспериментируют с дипфейк-алгоритмами для создания гиперреалистичной компьютерной графики и синтезированных образов знаменитостей – живых и мертвых – для рекламы и фильмов.
Впрочем, GAN – не единственный инструмент для генерации дипфейков, поскольку ИИ-технологии шагнули вперед. В последние два года развитие порождающего ИИ привело к появлению трансформера – архитектуры нейросетей, способной создавать совершенно новые изображения, тексты и видео, ориентируясь только на критерии, напечатанные на простом английском языке. На основе этой технологии построены такие инструменты ИИ-арта, как Midjourney, Dall-E и ChatGPT, которые сегодня у всех на слуху. Они позволяют смутной идее, выраженной в нескольких словах, стихийно обрести проработанную визуальную форму с помощью простых приложений и сайтов.
Инструменты для создания изображений на базе ИИ также превращаются в оружие женоненавистничества. По данным компании Sensity AI, одной из немногих исследовательских организаций, отслеживающих дипфейки, в 2019 году около 95% дипфейк-видео, размещенных в интернете, составляла недобровольная порнография, причем почти во всех роликах в роли жертв были женщины{22}. Автор этого исследования Генри Айдер сказал мне, что за несколько лет, прошедших с момента публикации его статьи, дипфейки распространились так широко, что теперь написать подобный отчет практически невозможно. Он отметил, однако, что более свежие исследования показывают, что жертвами дипфейков по-прежнему становятся главным образом женщины, которых технология гиперсексуализирует.
Сегодня, спустя несколько лет после появления термина «дипфейк», жертвам технологии все еще некуда обращаться за помощью. Почти нигде не действуют никакие законы против создания интимных изображений с помощью ИИ и их распространения. Несколько стран – Великобритания, Сингапур, Республика Корея, Австралия – и отдельные американские штаты, включая Калифорнию, Нью-Йорк и Виргинию, недавно запретили недобровольное распространение интимных изображений, в том числе дипфейков, но создание изображений с помощью ИИ по сей день не регулируется законодательством большинства стран. Жертвам остается лишь требовать от платформ удаления контента, подавая претензии по поводу нарушения авторских прав. В пользовательских соглашениях социальные сети и даже некоторые порносайты обещают удалять дипфейки и контент, размещенный без согласия сторон, но в реальности делают это редко{23},{24}. Они либо не выявляют такие материалы превентивно, либо, если и знают о существовании подобного контента, не относят его удаление к числу приоритетных задач. Новое законодательство Евросоюза, вступившее в силу в 2023 году, обязывает социальные сети инструктировать пользователей о том, как запрашивать удаление запрещенных материалов, и исполнять такие запросы, однако закон не работает, если материал, о котором идет речь, – например, дипфейк – формально не запрещен.
Нельзя сказать, что ИИ стал первой цифровой технологией, которую применяют для притеснения и унижения маргинализированных групп в интернете. Как и многие более простые технологии работы с изображениями, которые существовали до него, от скрытых веб-камер до фотошопа и социальных сетей, дипфейки стали оружием целых армий трусов и извращенцев, вторгающихся в самые интимные из мест – в наши тела.
Манипулирование изображениями с помощью ИИ представляет особую проблему из-за того, что необходимые инструменты дешевы, их легко найти в интернете и овладеть ими способны даже непрофессионалы. Гиперреалистичные – в сравнении с технологиями прошлого поколения – результаты быстро расползаются по недостаточно контролируемым социальным сетям, которые в этом случае работают как мегафоны. Кроме того, их можно использовать против жертв, которые не только не давали своего согласия на создание подобных материалов, но и вовсе о них не знают. Эта технология выводит массовые притеснения и унижения на новый уровень.
Быстрый поиск в гугле показал мне десятки сайтов с дипфейк-порнографией, на которых утверждалось, что размещенные на платформах видео полностью сфабрикованы. В сотнях видеороликов двойники реальных женщин участвовали в реалистичных постановках половых актов.
В этих видео были звезды Голливуда, Болливуда и кей-попа, а также обычные люди вроде Хелен. На том же сайте, где Хелен нашла «себя», она с ужасом обнаружила целый раздел с порнографией с участием непубличных личностей – настоящий рынок изображений женских тел, порожденных технологиями.
Дипфейки не относятся к числу непредвиденных последствий появления ИИ. Это инструменты, намеренно используемые не по назначению, для причинения вреда. Однако их негативное влияние усугубляется простотой использования технологии и институциональным бездушием – отсутствием государственного регулирования и нежеланием крупных онлайн-платформ отвечать за распространение подобного контента. Истории Хелен Морт и других женщин, с которыми я побеседовала, лишь подтверждают коллективное безразличие к их боли.
Дичь
В начале 2022 года я прочитала черновик «Черты над небом» (A Line Above the Sky) – готовящейся к публикации книги Хелен о материнстве и альпинизме. В ней мемуары переплетаются с воспеванием природы и раскрывается истинная сущность Хелен. В своей книге она показывает собственную хрупкость, собственную уязвимость, но вместе с тем и непоколебимую уверенность в себе. Среди прочего она вкратце упоминает об истории с дипфейками и рассуждает том, как она изменила ее чувство идентичности.
За три года, прошедшие с того дня в 2020-м, Хелен написала несколько произведений, в которых попыталась передать тяжесть пережитого опыта. В эссе «Дичь» она соединила фрагменты истории с дипфейками с рассказом об организованной ею грандиозной экспедиции на ледник неподалеку от поселка Кулусук на юго-востоке Гренландии. Она провела параллели между историями о взлете и о падении. Она написала самой себе: «В такие моменты вспоминаешь, как ползет ледник. Он держится прямо, даже когда спускается вниз, даже когда падает»{25}.
Сразу после инцидента она написала стихотворение «Дипфейк. Порнографический экфрасис». В первые месяцы после случившегося ей казалось, что она ничего не может делать, а написание стихов избавило Хелен от навязчивых мыслей, позволило ей прийти в себя и исцелиться. Психологический удар описан в стихах так, как Хелен не могла бы описать его в разговоре:
Мое лицо, но пиксели искажены,
мои привычные черты извращены.
Оттрахай ее, вставь в
