дети. Отцы участвуют в воспитании редко. Мужчины не всегда считают себя в ответе за детей, поэтому растить их приходится главным образом женщинам и девушкам.
Такие детские сады – единственное место, куда дошкольники из бедных семей могут ходить бесплатно. В других заведениях, как и в CPI Libertad, тоже велика доля детей, родившихся у малолетних и молодых матерей. Их родители в основном работают неофициально: убирают дома, продают еду на улицах, трудятся на стройках и в сельском хозяйстве, когда им выпадает шанс. Пока они работают, детские сады присматривают за детьми и выступают в качестве общественных центров для больших смешанных семей из бабушек, дедушек, дядьев, теток, кузин и кузенов, которые растят детей вместе. Хулия и ее коллеги стараются дать матерям почувствовать свою внутреннюю силу, чтобы они могли давать отпор не только партнерам, но и собственным матерям, напоминая им, кто настоящие родители малышей.
Когда пустые миски из-под анчи унесли, возле здания начали собираться родители, пришедшие за детьми из утренней смены. Карла, которой немного за двадцать, стояла в коридоре, держа на руках трехнедельную Паулину. Она пришла за своей четырехлетней дочерью. Ей всегда нравилось приходить в детский сад, просто чтобы посмотреть, как резвятся и играют дети. Малышка спала, и она наслаждалась моментом тишины, с улыбкой рассматривая гирлянды из бумажных цветов и рисунки с изображением прав детей – мультяшные образы «безопасности», «здравоохранения» и «образования».
Карла не замужем и живет с родителями и братом. Она говорит, что детский сад ей очень сильно помогает. До недавнего времени она работала уборщицей по найму, и возможность бесплатно устроить дочку в детский сад позволила ей без особых проблем обеспечивать себя и не испытывать чувства вины. Если ей порой приходилось задержаться на работе, ее брат или отец дочки забирали девочку из садика, который был удачно расположен неподалеку от дома. Это дало их семье стабильность, а дочери – хорошее безопасное место, где она могла провести день.
Прогнозирующая система от Microsoft, разработанная для Сальты, преследовала сходную цель: обеспечить таких молодых женщин, как Карла, инструментами для принятия информированных решений о материнстве и выхода из замкнутого круга нищеты. Я спросила у нее, что можно сделать, чтобы лучше поддерживать молодых матерей, в частности недавно родивших матерей в ее сообществе. «Дать нам работу, – усмехнувшись, ответила она. – Если с этим помогут, больше мне ничего не надо».
Пока мы говорили, я услышала крик: «Мама!» К Карле подбежала девочка с косичками, которая сразу принялась рассказывать, как прошло ее утро. Карла заулыбалась, и коридор тотчас наполнился их смехом.
Победители и проигравшие
Сидя в своем офисе в центре Сальты, Пабло показывает мне, какие статистические операции его специальная аналитическая программа производит с индивидуальными демографическими данными и как государство могло бы использовать эти цифры, чтобы принимать решения в отношении конкретных групп людей. «Может, им нужен колодец? Или школа? Где именно? Сколько в сообществе человек с ограниченными возможностями? У скольких есть дети? Это можно представить наглядно», – говорил он.
Закрытие пилотного проекта не остановило Пабло. Наоборот, этот проект помог ему начать новую карьеру самозанятого эксперта по технологиям, консультирующего различные государственные организации. После отставки Пабло и Чарли основали некоммерческую организацию Horus Foundation, которая обслуживает несколько крупных клиентов из государственного и частного сектора. ИИ-проект просто стал их визитной карточкой, которая открыла им путь к правительствам, нуждающимся в цифровых услугах, а впоследствии также к корпорациям, работающим с государственными структурами в Африке и Латинской Америке.
С 2019 года Пабло работает в национальных программах Бразилии и Аргентины, нанося на карту все трущобы этих стран и помогая правительственным организациям лучше обслуживать живущих там людей. Кроме того, он участвует в совместных частно-государственных проектах в Камеруне, где сотрудничает с французской горнодобывающей компанией, которая вытесняет местные сообщества. Пабло собирает демографические и медицинские данные отдельных людей, чтобы строить модели, рекомендующие меры поддержки в сфере здравоохранения и санитарной профилактики заболеваний для деревень, которые оказываются в сложной ситуации при ведении поблизости горных работ.
Поскольку эти проекты по анализу данных кажутся многообещающими, Пабло хотелось говорить о будущем, но я спросила у него, использовался ли алгоритм, разработанный в Сальте, для поддержки семей из группы риска. Если да, то привело ли это к желаемому результату – снижению числа подростковых беременностей?
Ответы на эти вопросы чрезвычайно раздосадовали и меня, и Пабло. Хотя с помощью модели было найдено не менее 250 семей, нуждающихся в поддержке, несколько ученых выразили сомнения в ценности пилотного проекта. Предрасположенность к подростковой беременности была выявлена почти в трех четвертях семей в районе проведения эксперимента, и прогнозировать беременность на индивидуальном уровне оказалось нецелесообразно. Очевидно, решительные меры необходимо было принимать на уровне всего сообщества – а это было делом государственных организаций, а не программистов и сотрудников Microsoft.
Кроме того, под вопрос была поставлена и надежность системы. В частности, исследователи ИИ из Университета Буэнос-Айреса обнаружили несколько конструктивных дефектов в коде алгоритма, который был загружен на платформу для хостинга проектов с открытым кодом GitHub, принадлежащую Microsoft{114}. Поскольку количество подростковых беременностей в изучаемом сообществе было невелико – оно исчислялось сотнями, – для обучения модели пришлось искусственно породить недостающие данные. Хотя такой метод вполне допустим, очевидно, что его применили некорректно. В связи с этим одни и те же или очень схожие данные использовались и для обучения, и для испытания модели. Иными словами, складывалось впечатление, что ИИ-модель корректно прогнозирует риск беременности в новых семьях, хотя на самом деле ее просто испытывали на ответах, которые были ей уже знакомы.
Критики модели не имели доступа к полному набору данных, но если их утверждения верны, нельзя говорить, что система, как и заявлено, работала с 86-процентной точностью. Ученый, опубликовавший эти критические замечания, сказал мне, что такую ошибку в программе мог допустить разве что студент.
Другая, менее очевидная проблема была связана с установлением истины. В силу конфиденциального характера информации невозможно было удостовериться, что девушки и их семьи рассказывают о прошлых и текущих беременностях правдиво, особенно если они задумывались об аборте. На самом деле высока была вероятность того, что в ходе анкетирования они говорили неправду, поскольку в тот период аборты в Аргентине были запрещены. Стало быть, что данные из обучающего набора были необъективны, а исправить перекос было невозможно. Как же доверять прогнозам такой системы?
Я попросила Пабло подумать, справедлива ли эта критика. Он сказал, что пилотный проект был закрыт почти сразу после старта, поэтому систему не успели испытать и довести до ума. Я не отступала. Наблюдалось ли снижение числа беременностей?
