встречу.
В письме таилось и последнее откровение: ученые работают над новой версией программы ProKid, чтобы выявлять молодых людей в возрасте до двадцати трех лет, «которые могут (глубже) погрузиться в преступный мир». В мэрии заявили, что программа еще не внедрена, но история с охраной правопорядка на базе ИИ явно далека от завершения.
В служебной записке, направленной бургомистру в 2016 году и полученной исследователями по Закону о свободе информации, работники городских учреждений выражали озабоченность тем, что причиняют вред детям, которым пытаются помочь. Хотя прошло почти восемь лет, поднятые в ней вопросы актуальны и сегодня.
По состоянию на 1 июля на основе выводов ProKid+ в «Список 400» вошло 125 человек. Мы заметили, что эта история по-прежнему вызывает слишком много вопросов. Программа ProKid+ оценивает риски, а не анализирует данные уголовного судопроизводства. Это значит, что учитываются не только поступки конкретного человека. Иногда человек попадает в систему… из-за поведения других людей. Кроме того, через ProKid в список попадают и люди, которые вообще не имеют криминального прошлого. Получается, что мы объявляем преступниками молодых людей, которые входят в группу риска и которым мы вообще-то хотим помочь?
* * *
В Лондоне, продолжая наш разговор, Диана увлеченно рассуждает о своем будущем. Впервые за долгое время она смотрит в него с надеждой. Теперь она не борется с государством, а выступает за обеспечение более прозрачной работы алгоритмов и контроля над последствиями их применения. «Алгоритм создают люди, которые видят цифры. Такова его природа. Они не видят людей, они видят цифры», – говорит она.
После интервью газете Het Parool и переписки с бургомистром Амстердама ее общественная кампания привела к основанию фонда, объединяющего матерей, дети которых по-прежнему остаются в «Списке 600» и «Списке 400». Создав сеть из ста матерей в Амстердаме, Диана начала работать с другими городами, включая Гаагу. Она надеется, что арендованное для фонда помещение станет местом, где матери получат возможность высказываться, делиться своими историями и страхами и обмениваться информацией. Она назвала свой фонд De Moeder Is De Sleutel – «Ключ в матери».
«Быть добрым не значит быть слабым, – говорит она. – Все, в чем нас обвиняют, – что мы слишком эмоциональны, что мы плачем, – все это нужно этим детям. Нам необходимо иначе растить своих сыновей, но еще более необходимо… прощать друг друга».
Глава 6
Ваша поддержка
Норма Гутиаррас, как и Диана, вырастила четырех детей, и они говорят, что ее сила – в доброте. Крашеная блондинка за шестьдесят, в небесно-голубых брюках, с крупными жемчужными серьгами, она источает теплоту и материнскую заботу. Ее блестящие карие глаза заглядывают прямо в душу, и взгляд их наполнен участием, которое располагает делиться с ней самым сокровенным.
Норма живет на окраине крошечного городка Сальта у подножия Анд на северо-западе Аргентины, в районе Норте-Гранде. Бо́льшую часть жизни она провела в бедных поселениях и переехала сюда, когда здесь не было ничего, кроме колючего редколесья и пыльных тропинок. Она помогла разметить участки для домов, определить, где разместится медицинский центр, и решить, какие семьи переедут в этот район и где поселятся. Теперь Норма стала пунтерой – связующим звеном, которое передает местным властям информацию о нуждах сообщества. Кроме того, она работает фельдшером в местной клинике и, по словам ее сына Матиаса, заботится обо всех жителях Норте-Гранде, как о своей семье. «Всю жизнь она работала на благо людей в своем сообществе, – говорит Матиас. – Она находит им кровати, организует похороны, покупает гробы. Она помогает со всеми их нуждами».
Пока я ехала в район, где живет Норма, вдоль реки Рио-Ареналес, которая пересекает Сальту, неоколониальное великолепие городского центра постепенно меркло и сменялось сепией. Просторные площади уступали место беспорядочно разбросанным мясным лавкам и маленьким киоскам с птицей, сигаретами и газировкой.
Приземистые домики из бетона и неоштукатуренного кирпича были покрыты рифленым железом и завешены брезентом и пластиком. В сердце района дома стояли впритык друг к другу, разделенные лишь сточными канавами.
Соседка Нормы, пятнадцатилетняя Магуи, сидела, обмахиваясь веером, в тени дверного проема. Ее отправили продавать поношенную детскую одежду, разложенную на пеленальном столике. Она сидела на стуле, накрыв ладонью свой округлившийся живот, и смотрела на прохожих. Из дома доносились крики ее трехлетнего ребенка.
По работе Норма регулярно обсуждает проблемы района с чиновниками. Уже не меньше трех десятилетий они ходят от двери к двери везде, где бы она ни жила, и собирают информацию, хотя Норма и считает, что ничего нового им уже не узнать. Работники санэпидемстанций, специалисты системы здравоохранения, социальные работники – она давно перестала их различать. «Они записывают, с кем ты живешь, сколько человек в доме, когда ты учился в школе, были ли у тебя беременности. Они приходят, чтобы расспросить нас о наших нуждах, о нашей бедности и о тех, кто находится в угрожающем положении. Они спрашивают о ранних беременностях, о планировании семьи».
В этом районе особенно остро стоит проблема молодых матерей. «С детьми они не могут нормально работать, – говорит Норма, – а здесь без работы не выжить».
Норма тоже забеременела еще подростком. «Мне не исполнилось и семнадцати», – вспоминает она, прикрыв глаза. Она сорок два года прожила в несчастливом браке, чтобы дети не последовали ее примеру и не совершили такую же ошибку. Она держала детей в ежовых рукавицах и отправила их в школу в центре города. Каждый день она или ее муж забирали их после уроков прямо от дверей. Детей не пускали гулять на улицу и заставляли делать все домашние задания. Теперь младшая дочь Нормы, которой исполнилось двадцать пять, служит во флоте. Она не замужем и не имеет детей.
«Мама ею очень гордится, – отмечает Матиас. – Она очень хорошая дочь».
«Девушка на улице, Магуи, в первый раз забеременела в двенадцать, а теперь ей пятнадцать и она беременна опять», – говорит Норма.
«Она не видит для себя будущего», – добавляет Матиас.
Несколько лет назад Норма услышала от директора местного медицинского центра о новой компьютерной системе, которую внедряли в сообщества. Ей сказали, что с помощью этой программы можно будет следить за беременностью и обеспечивать молодым матерям особый уход. Эта идея Норме понравилась. По крайней мере, компьютерная программа наконец применит данные, которые они собирали на протяжении многих лет.
Инициатором внедрения программы выступил Карлос Абелейра, министр провинции Сальта, которого все звали Чарли. Норма встречала его раньше и считала приличным человеком. Кивая, она подтверждает: «[Я думала], что [использование программы] может пойти на благо нашему сообществу, si».
Управление на основе данных
