class="p1">Пабло явно стало не по себе. «Да, мы успели поработать с семьями, мы сообщили им о выявленных рисках и начали улучшать их положение в различных сферах. Иногда мы занимались образованием родителей или пытались помочь матерям-одиночкам и другим членам их семей найти работу, – сказал он. – В одном доме был земляной пол, и мы положили там плитку. Мы обучали людей профессиям сантехников и плотников, чтобы они могли трудоустроиться. Они радовались помощи от государства».
Но если не учитывать эти ситуативные вмешательства, проект был закрыт слишком рано – всего через два-три месяца после начала работы с семьями, – и поэтому невозможно оценить, повлияли ли алгоритмы на количество подростковых беременностей в этом районе. Новое правительство, пришедшее к власти в 2019 году, расставило приоритеты иначе, и ближайшие соратники бывших министров были уволены.
Пабло расстроился, что не увидел свой ИИ-проект в действии, – это ударило и по его самолюбию, и по его профессиональным амбициям. Однако он остался технократом, верящим в силу ИИ-технологий. Он считал, что их система не была ни плохо спроектированной, ни бесполезной, а представляла собой рабочий вариант, которому просто не дали шанса. Кроме того, он полагал, что бывший губернатор не смог четко объяснить, в чем состоят задачи алгоритма, а соперничающие политические группировки встали на его пути к успеху.
Между тем Microsoft получила некоторый опыт работы в регионе и полигон для испытания систем машинного обучения Azure в государственном секторе – а также по 50 тысяч долларов за каждый год из трех лет использования своей облачной платформы. Но это не просто помогло ей привлечь новых клиентов. Почти десять лет американский технологический гигант пытался расширить сферу своего влияния и выйти за границы корпоративного мира, позиционируя себя как международного политического и дипломатического игрока, способного влиять на государства и законы. Компания начала переосмыслять свою роль в сфере кибербезопасности в 2017 году, когда предложила корпорациям и странам принять Женевскую конвенцию в области цифровых технологий и подписала соглашения с правительством Франции{115}.
С тех пор она пытается делать то же самое в сфере искусственного интеллекта, чтобы участвовать не только в обсуждении вопросов международной кибербезопасности, но и во всех глобальных дискуссиях об ИИ-политике{116}. Хотя и кажется, что Microsoft сыграла лишь незначительную роль в разработке алгоритма для прогнозирования подростковых беременностей в Сальте, этот шаг прекрасно вписывается в стратегию компании по расширению своего политического влияния. Подобно колониальным мегакорпорациям ушедших эпох – например, Ост-Индской компании и Англо-Персидской нефтяной компании, – в наши дни технологические компании начинают функционировать как монополистические квазигосударства.
В конце 2020 года, через несколько лет после разработки программы для прогнозирования подростковых беременностей и отказа от нее, в Аргентине были легализованы аборты. Хотя политический контекст для женщин и девушек изменился благодаря работе борцов за права женщин, социальный контекст остался прежним. К абортам по-прежнему относятся неодобрительно, а собранные в семьях данные – конфиденциальная информация о репродуктивном здоровье, наследственности, местах работы, – остаются в единой базе, которая будет передаваться от одного правительства другому. Не стоит ли опасаться того, что может произойти, если она попадет не в те руки?
Правительства и раньше использовали персональные данные граждан против них самих. В конце концов, с 1976 года в Аргентине семь лет царила военная диктатура, которая собирала подробную информацию о населении посредством анкетирования, а затем на базе нее создавала пропаганду для влияния на население{117}.
В тот же период данные легли в основу печально знаменитой операции «Кондор» – организованной при поддержке США кампании террора и репрессий, совместно проведенной несколькими диктаторскими режимами в странах Южного конуса, в том числе в Чили, Аргентине, Бразилии и Боливии. Эти государства собирали данные о гражданах, которых считали угрозой для авторитарной власти, включая левых политиков и философов, профсоюзных деятелей и представителей духовенства, и делились ими друг с другом. Полученная информация хранилась в общей компьютерной системе и использовалась, чтобы планировать похищения, «исчезновения», пытки и даже убийства{118}. Персональные данные людей становились оружием, которое использовалось против них.
В свой последний вечер в Сальте я прошлась от гостиницы до парка Сан-Мартин на юге города, чтобы увидеть местную достопримечательность «Портал памяти» – побеленную арку, установленную в память о жертвах аргентинской диктатуры. На одной ее стороне черными буквами были начертаны слова чилийского поэта-активиста Пабло Неруды. Обратившись к интернету, я выяснила, что передо мной стихотворение «Враги» – громкий призыв к оружию, воспевающий память граждан, убитых латиноамериканскими диктаторами. Ритм стихотворению задает повторение фразы pido castigo, «я требую наказания», – не только для тех, кто отдавал приказы о казнях, но и для всех, кто оправдывал преступления и содействовал их совершению. Неруда хотел, чтобы их всех осудили прямо здесь, в одном из парков Сальты.
Когда я спросила у Пабло Абелейры, может ли история повториться, он кивнул. Он понял, о чем я. Однако он сказал, что правительство и ранее располагало этими данными. Если бы власть имущим потребовалось исказить их или превратить в оружие, им хватило бы и того, что и так было в их распоряжении, даже без помощи ИИ-технологий. «Мы работаем с правительствами, потому что верим, что у них благие намерения».
Я уверена, что намерения Пабло – и цели ИИ-технологии – были благими: выявить семьи, которые нуждаются в дополнительной поддержке, и прийти к ним на помощь, пока они не оказались в бедственном положении, например из-за нежелательной беременности.
Но я обнаружила, что никто не желал брать на себя ответственность за работу системы. По сути, этот пилотный проект не имел ни владельца, ни контролера. Когда команду расформировали, а сотрудники Microsoft занялись другими делами, код отправился в архив, данные были похоронены в недрах государственной бюрократии, превратившись в призрак алгоритма, который они питали, а сама модель просто исчезла.
В лучшем случае этот проект стал напрасной тратой государственных денег и ресурсов, в худшем – злоупотреблением доверием по большей части коренных и креольских семей, которые делились своими данными, надеясь, что в итоге это поможет им решить финансовые проблемы.
В выигрыше осталась лишь группа, которая разработала и недолгое время контролировала эту технологию: компания Microsoft, возможно, обеспечившая себе ряд государственных контрактов, и братья Абелейра, использовавшие полученный опыт и налаженные в процессе связи, чтобы улучшить собственную репутацию и дополнить свои резюме.
Для заявленных бенефициаров – женщин и девушек из трущоб Сальты – практически ничего не изменилось. Они продолжают жить как прежде и по большей части испытывают такие же нужды и сталкиваются с теми же проблемами, что и их матери. ИИ-система вообще не изменила их повседневную жизнь.
*
