партнерства и разрабатывают специализированные алгоритмы для других рынков. Например,
Qure.ai вступила в партнерство с Национальной службой здравоохранения Великобритании и компанией
AstraZeneca, чтобы продвигать по всему миру свои алгоритмы диагностики рака легких.
Если представители сообществ и понимали, зачем они делятся своими данными, то считали, что приносят пользу науке и системе здравоохранения. Но люди, с которыми беседовала Анеджа, чувствовали, что не могут воспользоваться преимуществами технологий, в создание которых вносят свою лепту.
В ходе этнографического исследования роли ASHA одна уполномоченная по имени Мина, живущая в трущобах на юге Дели, спросила: «Куда пойдут эти данные?» Четкого ответа ей никто не дал. Многие жаловались, что редко видят продукты, которые создаются благодаря собранным ими данным. Часто компании вообще перестают выходить с ними на связь.
«Вопрос не только в данных – вопрос в зависимости государства от крупнейших технологических компаний», – сказала Анеджа. Она полагает, что зависимость от американских компаний слишком сильна. «Большинство государственных систем [здравоохранения] опирается на Amazon Web Services. Значительная часть инфраструктуры и экспертных знаний, которые влияют на то, как государство относится к ИИ, обеспечивается компаниями “большой пятерки”. Они заполняют пробелы, которые возникают из-за слабости государственных институтов».
Ашита тоже сдержанна в своих оценках. Ей нравится продукт Qure.ai, и она считает, что у него огромный потенциал, но чтобы повысить доступность здравоохранения в реальном мире, эту технологию необходимо переместить из частных больниц вроде той, где работает она сама, в бесплатные государственные медицинские центры и передвижные медпункты. В ее больнице приложение позволяет быстро получить второе мнение, но крайней необходимости в нем у Ашиты нет. Она квалифицированный и опытный врач, а потому, скорее всего, поставила бы такие же диагнозы и без помощи приложения. «Мы говорим компании, что использование этого инструмента в нашей больнице не сможет существенно повлиять на ситуацию», – сказала Ашита.
В 2022 году она познакомила разработчиков Qure.ai с сотрудниками государственного окружного туберкулезного диспансера и представителями Всемирной организации здравоохранения в Нандурбаре. Она отметила, что внедрение приложения qTrack в бедствующих районах страны требует времени и денег. Команда Qure представила свою технологию на встрече в администрации округа и произвела хорошее впечатление на собравшихся. Однако, как и опасалась Ашита, хотя принципиальное согласие на внедрение технологии было получено, все застопорилось из-за бюрократии. Уговаривать государство повсеместно внедрять qTrack – настоящая мука, и команда Qure все еще обсуждает детали с окружными властями.
Ашита прекрасно видит, что ее мечту об ИИ-диагностике туберкулеза по всей стране отделяет от реальности целая пропасть. Корень проблемы в том, что жаждущие прибыли корпорации и маргинализированные сообщества вроде тех, к которым принадлежат ее пациенты, обычно существуют на противоположных полюсах.
Я побеседовала с мексиканской ученой и правозащитницей Паолой Рикаурте, которая пытается разобраться в этих противоречиях. Ее исследование помогает пролить свет на явление, которое называют колониализмом данных, – извлечение прибыли из данных, полученных от маргинализированных и уязвимых групп и использованных при создании ИИ-систем.
«Компании “большой пятерки” сосредотачивают у себя деньги, сосредотачивают ценность, создаваемую при сборе данных, но также сосредотачивают и знания, что, на мой взгляд, самое важное», – сказала Рикаурте. Она отметила, что в период пандемии 2020 года стало очевидно, что мексиканское правительство нуждается в помощи Google, чтобы разработать собственную внутреннюю политику в области здравоохранения.
Эти знания проистекают из данных, которые, по словам Рикаурте, служат для общества зеркалом, где отражаются наш опыт, наши поступки и сама суть того, кто мы есть. «Поскольку у нас нет доступа к тем знаниям, которые они получают благодаря нам, мы начинаем отставать. Это неравные отношения, асимметричное распределение власти».
Ашита прекрасно понимает, что такое социальные асимметрии, поскольку каждый день сталкивается с ними на работе и в жизни. Но именно поэтому она понимает и то, что такие сообщества, как бхилы, никогда не получат доступ ко всем необходимым врачам и ресурсам. Я тоже верю, что правильно разработанный и внедренный ИИ может помочь спасти жизни самых обездоленных. Если эта технология доберется в места, где в ней действительно нуждаются, я уверена, что жизнь всех людей станет лучше, а врачи получат новый полезный инструмент.
«Когда людей не хватает, я думаю, что технология служит им достойной заменой, – сказала Ашита. – Она может произвести революцию в наших методах лечения».
Глава 5
Ваша свобода
Диана
В семь утра в один из будних дней 2015 года Диана Сарджо проснулась, услышав, как кто-то колотит в дверь ее дома в Эйбурге – районе в восточной части Амстердама, куда она недавно переехала с семьей. В одной из комнат спала ее семилетняя дочь, в двух других – сыновья-подростки. Выглянув в окно, Диана увидела в саду полицейских, и, когда она открыла дверь, они ворвались внутрь и стали обыскивать одну комнату за другой, пока не нашли того, за кем пришли, – четырнадцатилетнего Дамьена. Его арестовали за то, что он пригрозил ножом своему ровеснику.
Когда полиция увела Дамьена, жизнь Дианы рассыпалась на миллион осколков.
* * *
Весь следующий год Диана всячески старалась вернуть жизнь сына в нормальное русло. Она признавала, что Дамьен действительно совершил ужасный поступок, но полагала, что у любого ребенка должен быть шанс на исправление. Она настояла, чтобы вместо тюремного заключения ее сыну назначили домашний арест, поскольку боялась, что тюрьма изменит Дамьена и станет для него дополнительным толчком в преступный мир. Диана круглые сутки караулила сына, чтобы он больше ничего не натворил. «Я думал, что мама отвернется от меня, ведь сам я чувствовал себя паршивой овцой. Я поступил отвратительно, мне не было прощения. Но она меня не бросила, – вспоминал Дамьен в интервью несколько лет спустя. – Моя мама – настоящий воин».
Несмотря на все усилия Дианы, полицейские часто приходили к ним домой, чтобы допросить Дамьена о других преступлениях – о краже айпада, об ограблении на другом конце города, – но Диана и Дамьен утверждали, что подросток не имеет к ним отношения. Через несколько недель Дамьен взбунтовался против постоянного контроля. Когда срок его домашнего ареста истек, он был освобожден под поручительство и совершил еще одно уличное преступление, из-за чего ему продлили период пребывания под надзором, и он снова стал общаться с компанией, которая изначально втянула его в неприятности.
После этого полицейские стали стучаться к ним в дом в любое время дня и ночи. Иногда они забирали Дамьена и его старшего брата Нафайо в участок на допрос. Бывало, что полицейские останавливали Дамьена на улице и проверяли у него документы, когда он просто шел по своим делам или встречался с друзьями. Это
