ними даже сложнее, чем призывать к ответу демократические правительства.
Недавно она прочитала две книги, которые дали ей возможность посмотреть на происходящее сквозь призму истории: «Анархию» Уильяма Далримпла о возвышении Ост-Индской компании и «Все люди шаха» (All the Shah’s Men) журналиста Стивена Кинцера, который рассказывает о роли Англо-Иранской нефтяной компании в государственном перевороте 1953 года в Иране. «Очень сложно было понять, где кончается государство и начинается корпорация, – сказала Крайдер. – Поразительно, что государство идет на поводу у компании, которая устанавливает собственные правила».
Крайдер полагает, что сегодня граждане подвергаются подобной эксплуатации в хищнической системе, которой управляют самые технологически продвинутые субъекты. И особенно сильно раздел влияния на мировой арене сказывается на самых уязвимых группах населения.
Когда алгоритмы вызывают волнения
В декабре 2022 года Foxglove в составе группы из семи правозащитных организаций поддержала первую для себя серию дел, в которых заявлялось, что алгоритмы могут стимулировать распространение вредоносного контента и напрямую способствовать кровопролитию и гибели людей в реальном мире. Первым истцом стал Абрахам Меарег – эфиопский исследователь из Amnesty International. Его семья принадлежит к народу тиграи – этническому меньшинству, которое проживает в амхарском регионе, где идет кровавая гражданская война между тиграи и амхара. В ноябре 2021 года отца Абрахама, профессора химии Меарега Амаре, прямо возле дома застрелила банда, для которой он стал мишенью из-за своей этнической принадлежности.
За месяц до этого он подвергся нападкам в серии фейковых сообщений в фейсбуке о том, что он якобы обокрал собственный университет. Беспокоясь за отца, Абрахам потребовал от Facebook удалить вирусные посты, но ответа не получил. Через месяц, уже после гибели отца, Абрахаму пришло уведомление о том, что один из постов, который увидело до 50 тысяч человек, был наконец удален. Абрахам запросил политическое убежище в США и позже сказал, что винит Facebook в этнически мотивированном убийстве своего отца, поскольку алгоритмы соцсети способствовали распространению риторики ненависти и ложной информации о нем, а компания не спешила удалять со своей платформы вредоносные посты.
Вторым истцом в этом деле выступил бывший исследователь Amnesty International Фиссеха Текле, собравший другие примеры размещенных в фейсбуке публикаций, которые могут быть непосредственно связаны с этнически мотивированными убийствами. Вдобавок Текле заявил, что он сам и его родственники подвергались нападкам из-за его работы с контентом в соцсети. В результате он переехал в Кению, заявив, что не может вернуться в Эфиопию, поскольку опасается за свою жизнь{153}.
Хотя здесь проблема заключалась во вспышках ненависти в интернете, провоцируемых алгоритмами соцсети, Крайдер полагала, что кровопролития также связаны с особенностями работы Meta в Найроби – с нездоровым и жестоким контентом, который приходилось отсматривать таким модераторам, как Дэниел, работавшим в аутсорсинговой компании Sama, где среди прочего осуществлялась и модерация эфиопской риторики ненависти. Крайдер считает, что отчасти происходящее объясняется недостаточными вложениями в модерацию контента на африканских языках и плохими условиями труда. В незападных регионах вредоносный контент остается доступным в интернете гораздо дольше, чем на англоговорящих рынках, и это развязывает руки преступным бандам в таких странах, как Индия и Мьянма{154}.
Истцы потребовали, чтобы Meta изменила свои алгоритмы и перестала рекомендовать пользователям разжигающий ненависть контент, а также создала фонд для поддержки жертв и внесла в него 1,6 млрд долларов.
«Если мы победим, это станет первым прецедентом в борьбе с рекомендательными алгоритмами и систематической дискриминацией неанглоязычных рынков», – сказала Крайдер накануне объявления о деле Абрахама, которое еще не закрыто.
Никто прежде не вступал в такую схватку: можно ли заставить компании «большой пятерки» ради общего блага переписать алгоритмы, приносящие им триллионы долларов?
Неконтролируемый ИИ
Большинству людей, с которыми встречается Крайдер, она кажется пугающе уверенной в себе. Такого человека хочется иметь на своей стороне в любой битве. Но я общалась с ней несколько месяцев и заметила, что порой эта маска слетает. Когда дела улаживаются по соглашению сторон, без настоящего боя, она начинает сомневаться в себе. Она всегда стремится довести дело до суда, чтобы увидеть реальные перемены, из-за чего часто сталкивается с завышенными ожиданиями, эмоциональными перегрузками и чувством бессилия – и пытается справиться с этим с помощью психотерапевта.
Недавно мы встретились в многолюдном кафе прямо возле ее офиса, и она пустилась в рассуждения о четырех годах, прошедших с основания Foxglove. Она довольна проделанной работой, но масштабы задач порой повергают ее в шок. Foxglove понадобился целый год, просто чтобы завести эфиопское дело в Найроби, хотя сначала они наивно полагали, что управятся за шесть месяцев. «Никогда еще открытие дела не казалось мне такой победой, – сказала она. – Когда корпорации распространяют свое влияние повсюду, невзирая на государственные границы, как в случае с техногигантами, приходится искать аргументы, чтобы обосновать, где именно их следует привлекать к суду и почему». Кроме того, до начала слушаний приходится давать новую трактовку действующим в стране законам, а это, по ее словам, очень тяжело.
Крайдер надеется, что со временем перейдет от отдельных случаев к проблеме, которую считает более общей: существованию неограниченной власти, которая не несет никакой ответственности. Она считает, что ее решит антимонопольное регулирование. Компании часто апеллируют к ложной дихотомии: «Если вы хотите ограничить нашу власть на законодательном уровне или задействовать для этого ресурсы государства, то вы уже одной ногой в Китае». Крайдер устала слышать, что перераспределение сил эквивалентно китайскому файрволу, и считает этот аргумент беззастенчивой попыткой отвлечь внимание от сути проблемы. Далее она собирается выступить против «большой пятерки», опираясь на законы о конкуренции.
Крайдер говорит, что изначально американское антимонопольное законодательство преследовало именно такие цели. Оно должно было поддерживать баланс сил между гражданами и корпорациями, а не использоваться лишь как механизм регулирования цен. «В таких масштабах власть корпораций считалась угрозой демократии», – сказала она.
По словам Крайдер, нетрудно догадаться, какая нас ждет участь, если технологии, используемые для мониторинга и манипулирования, никем не будут контролироваться. Порой, чтобы представить будущее, достаточно взглянуть на прошлое. Крайдер еще в 2013 году увидела, как становится реальностью один из ее главных кошмаров.
Работая адвокатом в Reprieve, одним апрельским утром 2013 года она прилетела в столицу Йемена Сану, чтобы встретиться с Файсалом бин Али Джабером – специалистом по охране окружающей среды из деревни Кхашамер на востоке страны. Крайдер полагала, что членов семьи Файсала убили по наводке компьютерной программы.
За год до этого Файсал вместе с друзьями и родственниками отмечал в Кхашамере свадьбу своего старшего сына. Тем вечером его зять Салем, уважаемый имам, прочел пятничную проповедь в местной мечети. В ней он осудил террористическую группировку
