максимальными сроками, не позволяя виновным выходить под залог.
Пожив за пределами Сальты, Пабло наконец увидел в родном городе вопиющее неравенство, которого он в детстве просто не замечал. Особенно пугающей была нищета городских трущоб. В Сальте проживало в три раза больше представителей коренных народов, чем в среднем по стране, и подавляющее большинство их семей обитало в незаконных поселениях{110}. «Я говорил со своими друзьями-врачами, и они сказали, что [в городе] много абортов. Аборты делают все кому не лень. Коренные жители аборты не делают, поэтому у них бывает и по двенадцать детей. Это перебор», – говорит Пабло.
В принципе Пабло не возражал против абортов, но считал, что молодые люди должны иметь возможность планировать собственное будущее, а не принимать судьбоносные решения под давлением. «Я подумал: что, если бы на их месте оказались мои дети? Мне хотелось, чтобы у них были равные со всеми остальными возможности. Когда у тебя появляются дети, начинаешь смотреть на вещи по-другому».
Вернувшись в Сальту, он решил помочь своему брату Чарли построить новую модель социальной работы на основе методов, применяемых в консалтинге SAP: он планировал использовать данные, чтобы анализировать состояние сообществ и совершенствовать правительственные механизмы принятия решений и распределения ресурсов.
Для этого Пабло заручился поддержкой технологического гиганта Microsoft, который уже жертвовал деньги католической благотворительной организации Conin, работающей в Сальте с проблемой недоедания. Компания бесплатно выделила на этот проект трех аналитиков данных. Посоветовавшись с группами местных экспертов, включая чиновников, представителей общественных организаций и социальных работников, команда решила сосредоточиться в пилотных проектах на двух проблемах: подростковой беременности и школьных прогулах.
Разработчики из Microsoft рассказали братьям Абелейра о возможностях ИИ и заявили, что с помощью платформы Microsoft Azure они смогут создать алгоритмы, прогнозирующие, кто из девочек с высокой вероятностью забеременеет в подростковом возрасте. Тогда органы местного самоуправления смогут направлять ресурсы на работу с их семьями, чтобы предотвращать ранние беременности.
Пабло понравилась идея использовать искусственный интеллект для решения такой непростой человеческой проблемы, как подростковые беременности. «У нас были сотни, тысячи переменных, поэтому анализировать их было сложно. И здесь нам помог искусственный интеллект, – сказал он. – Мы стали разрабатывать меры индивидуальной поддержки семей с помощью умных алгоритмов технологической отрасли».
Они начали с проблемы подростковых беременностей в беднейшем районе Сальты. Подобно модели ProKid и «Списку 400», которые прогнозировали будущие аресты в Амстердаме, новая программа должна была составить список семей, в которых вероятность ранней беременности дочерей составляла более 60%.
Нацеливание ИИ-модели на подростков была сомнительной идеей по нескольким причинам. Возраст сексуального согласия в Аргентине наступает в тринадцать лет, но уголовный кодекс предусматривает особую ответственность за сексуальную эксплуатацию детей в возрасте от тринадцати до шестнадцати лет. ИИ-модель, однако, исходила из того, что абсолютно все девушки в программе старше шестнадцати лет, даже если они на самом деле были младше. Кроме того, даже в случае с девушками старше шестнадцати модель не учитывала, что беременность могла наступить в результате изнасилования.
Уртубей, который в то время был губернатором Сальты, ухватился за шанс завоевать репутацию прогрессивного технофила. Он одобрил испытание ИИ-системы на семьях, живущих на юге и юго-востоке столицы, и подписал соглашение между администрацией Сальты и компанией Microsoft, которая согласилась и дальше работать над проектом бесплатно в обмен на возможность разрабатывать ИИ-технологии, используя персональные данные граждан. Microsoft привлекала государственный сектор к сотрудничеству, чтобы испытывать свою развивающуюся облачную технологию, которая впоследствии превратилась в многомиллиардный бизнес, ставший одним из столпов компании. Кроме того, правительство ежегодно платило компании около 50 тысяч долларов за использование облачной платформы Microsoft Azure, которая позволяла разработчикам создавать ИИ-инструменты в единой среде.
Правительство Сальты не планировало публиковать список семей, решив работать на упреждение. Как и Сарджо в Амстердаме, вошедшие в программу семьи должны были получать поддержку от различных государственных организаций, которые помогали им с жильем, образованием, трудоустройством и здравоохранением.
Цифровое социальное государство
В 2019 году специальный докладчик ООН по вопросу о крайней нищете и правах человека опубликовал изобличительный отчет о появлении так называемого цифрового социального государства – о датафикации государственных функций. В этом отчете без обиняков говорилось, что цифровые технологии, включая ИИ, которые определяют, кто именно получит социальную поддержку и защиту, просто «оценивают, идентифицируют, преследуют, обнаруживают, берут на прицел и наказывают» бедняков{111}.
Кроме того, в отчете содержалось предупреждение о растущем влиянии западных корпораций на правительства по всему миру – ярком проявлении колониализма данных. Современное государство тесно связано с частными компаниями, которые обычно разрабатывают и обслуживают цифровые системы социальной защиты, поддерживающие уязвимых граждан, – например, ИИ-системы в сфере здравоохранения, использование которых в Индии вызывает озабоченность у индийского политолога Урваши Анеджи.
В частности, в отчет ООН вошло предостережение о «большой пятерке» американских технологических компаний, включая Microsoft, которые обеспечивают функционирование значительной части государственной инфраструктуры и потому собирают персональные данные граждан, «работая в особой зоне, где практически не соблюдаются права человека».
Я спросила у Пабло, как вообще североамериканская технологическая корпорация Microsoft оказалась вовлечена в разработку социальной политики на провинциальном уровне, причем в таких деликатных сферах. Он ответил, что Microsoft гналась не за деньгами. Компании нужно было получить опыт работы с персональными данными, пусть даже обезличенными, доступ к которым обычно имеет лишь правительство, и благодаря этому привлечь клиентов к использованию своей новой облачной технологии и разработать ИИ-инструментарий для применения в общественно-политической сфере.
Сотрудникам компании не платили за работу, но они получали опыт создания программы социальной защиты на базе ИИ, который впоследствии можно было продать другому правительству. Кроме того, они зарабатывали себе хорошую репутацию, помогая спасать женщин от нищеты. Как отметил Пабло, все были в выигрыше.
Для запуска проекта команда Пабло нуждалась в универсальном топливе для ИИ – крупной базе данных. В описанном случае данные были конфиденциальными и обширными: это были сведения о здоровье уязвимых молодых женщин в нестабильных ситуациях.
Пабло знал, что не сможет отправить людей стучаться в двери к его соседям и друзьям. Он никогда не посмел бы собирать информацию о девушках в частной католической школе в центре города. Те самые друзья-врачи, которые жаловались ему на высокое число абортов, ни за что не пустили бы исследователей к себе домой и не позволили бы им расспрашивать их дочерей о нежелательных беременностях.
Но жители трущоб, такие как семья Нормы, привыкли к тому, что к ним постоянно приходят сотрудники государственных и благотворительных организаций, которые с планшетом в руках задают им вопросы об их телах, их семьях, их жизнях. Как утверждает
