отдавала приоритет более здоровым белым пациентам, обходя стороной менее здоровых чернокожих, которые нуждались в дополнительном лечении и уходе. Ученые рассчитали, что из-за предвзятости алгоритма особый уход рекомендовали менее чем половине из тех чернокожих пациентов, которым он был необходим. «Вы тратите меньше, хотя потребности у вас точно такие же. Вот так и возникала предвзятость, которую мы обнаружили», – объяснил Зиад. Он вызвался помочь
Optum переделать ИИ с опорой на данные, которые лучше отражают реальное состояние здоровья пациентов, и перенастройка системы привела к значительному снижению ее расовой предвзятости.
В отличие от предвзятостей и ошибок отдельных врачей, эта ошибка ИИ негативно сказывалась на огромном количестве чернокожих пациентов. Целый ряд других подобных систем тоже делал выводы о медицинских нуждах пациентов, анализируя их затраты на здравоохранение, и, по оценке Зиада, это сказывалось примерно на 200 миллионах американцев. И дело не ограничивалось одними США.
«Рассуждая об этой проблеме – о проблеме прогнозирования того, чье здоровье ухудшится, – мы систематически ошибались, – сказал Зиад. – Эта ошибка распространилась по всему сектору – по государственным системам медицинского страхования в США и по государственным системам здравоохранения в Европе. Все мы совершали одну и ту же ошибку».
Врач или данные?
Несмотря на обнаружение широко распространенных ошибок ИИ в медицинской сфере, Зиад не утратил оптимизма по поводу использования алгоритмов для лучшего лечения всех пациентов. Он полагал, что они могут быть особенно полезны для диагностики тех заболеваний, с которыми часто ошибаются врачи, а также расширять наши медицинские познания, обнаруживая новые закономерности в медицинских данных. Большинство современных ИИ-систем обучается на диагнозах, поставленных врачами, но Зиад полагал, что этого недостаточно. «Если мы хотим, чтобы ИИ-алгоритмы учили нас новому, – сказал он, – нам не следует обучать их исключительно на данных, полученных от врачей, поскольку в таком случае потолок окажется слишком низок: они смогут учить нас лишь тому, что мы и так знаем, пусть даже дешевле и эффективнее». Вместо того чтобы использовать ИИ в качестве альтернативы врачам – которых в США не так мало, как в отдаленных уголках Индии, – он хотел применять технологию для того, чтобы дополнять навыки и опыт лучших из лучших.
Зиад взялся за медицинскую загадку, которая десятилетиями осложняла врачам жизнь: почему афроамериканцы испытывают более сильную боль, чем другие люди такого же возраста и с тем же состоянием здоровья? Он хотел решить ее не только чтобы помочь пациентам, но и чтобы ответить на более философский вопрос: может ли ИИ-модель превосходить человеческие возможности в этой сфере и расширять медицинские знания?
Долгое время было известно, что афроамериканцы сообщают о более сильных болях, чем пациенты с такими же, по мнению врачей, травмами. Если взять двух страдающих от артрита пациентов разного происхождения и сделать поправку на такие биологические факторы, как возраст, то афроамериканец, скорее всего, заявит о более сильной боли в коленях, хотя рентгеновские снимки обоих пациентов, с точки зрения специалистов-радиологов, будут выглядеть одинаково{84}. В попытках объяснить это ученые выдвинули ряд гипотез, включая связь со стрессом и нищетой. Но все эти гипотезы предполагают, что проблема не в организме. Зиад, однако, полагал, что врачи не замечают каких-то биологических различий в восприятии боли представителями разных этносов.
Мы все чувствуем боль: тупую, пульсирующую, жгучую, глубинную, телесную, неописуемую. Боль для человека – неизбежность, эволюционный защитный механизм. Оценка чужой боли всегда субъективна, и на нее влияет множество факторов – от вашего воспитания, гендера и языка до вашей индивидуальной нейрофизиологии, то есть химических сигналов, которые возникают у вас в мозге. Количественная оценка боли сопряжена с индивидуальной предвзятостью, и все же ученые пытаются производить ее уже не один десяток лет. Например, в 1952 году эпидемиолог Джон Лоуренс решил классифицировать боль, превратив в свою лабораторию весь город Ли.
Ли, который входит в Манчестерскую агломерацию, находится в самом сердце шахтерской Англии. Он изрезан низкими мостами и железными дорогами, по которым в 1950-е годы миллионы тонн угля отправлялись на заводы по всей стране. Лоуренс два года изучал остеоартроз у местных шахтеров и сравнивал структуру их костной ткани и состав крови с показателями, характерными для работников городских офисов. Он собрал и вручную аннотировал коллекцию рентгеновских снимков, которая легла в основу глобальной системы, используемой современными радиологами для оценки физиологической стадии остеоартроза и называемой системой Келлгрена – Лоуренса.
Лоуренс обошел молчанием одну важную особенность своего набора данных: в 1950-е годы шахтерами и офисными служащими в Ли в основном работали мужчины европейского происхождения, как и он сам. «Все наши системы классификации и знания об артрозе, которые мы сегодня применяем в медицинской практике, проистекают из исследований, проводившихся в конкретное время, в конкретном месте, на конкретных людях», – сказал Зиад. Это значит, что система классификации не отражала биологическую реальность людей, которых Лоуренс не включил в свое исследование: главным образом женщин и людей другого происхождения. Узость набора данных, используемого для постановки медицинских диагнозов, натолкнула Зиада на мысль, что человеческая боль тоже не так проста, как мы привыкли думать.
Чтобы разгадать эту загадку, Зиаду нужно было вернуться к азам. Он хотел разработать программу, которая сможет прогнозировать уровень боли пациента на основе его рентгенограммы. Но вместо того чтобы тренировать алгоритмы машинного обучения на мнениях врачей, которые тоже бывают предвзяты и чего-то не замечают, он взял в качестве набора данных оценки пациентов. Для этого он отыскал в Национальных институтах здоровья США рентгеновские снимки коленей пациентов, снабженные не только классификацией радиологов, но и описанием боли со слов пациентов. Созданная им модель оценки боли при артрозе обнаружила корреляцию между снимками и описаниями. Затем он использовал программу, чтобы прогнозировать уровень боли в коленях на основе рентгенограмм. При этом он не ставил перед собой цели создать коммерческое приложение, а хотел лишь провести научный эксперимент.
Оказалось, что алгоритмы, обученные на оценках, которые давали своей боли сами пациенты, гораздо точнее, чем радиолог, определяют, какое колено болит сильнее.
Что поразительнее всего, модель оценки боли, созданная Зиадом, превзошла радиологов при прогнозировании боли у пациентов-афроамериканцев. «Алгоритмы видели в их рентгеновских снимках сигналы, которые упускал радиолог, и этих сигналов у чернокожих пациентов было непропорционально больше, чем у белых», – отметил Зиад. Он опубликовал свое исследование в 2021 году и завершил статью так: «Поскольку алгоритмы лучше справляются с оценкой боли пациентов, недостаточно обеспеченных медицинскими услугами, а уровень боли влияет на разработку плана лечения, в перспективе алгоритмические прогнозы могут сократить разрыв в доступе пациентов к таким методам лечения, как артропластика»{85}.
Теперь Зиад планирует копнуть еще глубже и выяснить, что за
