несравненным видом на Гималаи. Племенные сообщества, жившие в предгорьях, часто спускались в Тезпур – ближайший к ним город, куда можно было дойти пешком, – за срочной медицинской помощью.
Ашита была там единственным врачом, а больнице не хватало различного базового оборудования, на которое опирается современная медицина: рентгеновских аппаратов, газоанализаторов крови, КТ-сканеров, аппаратов ИВЛ. В округе не было лабораторий, чтобы подтверждать диагнозы, а медицинская инфраструктура функционировала плохо. Ашита поняла, что в таких условиях не сможет заниматься той медициной, которую изучала по учебникам, и ей придется смириться с тем, что ей как врачу не все будет под силу.
Влажным летом 2006 года, через год после того, как Ашита с мужем приехали в Тезпур, город охватила эпидемия малярии, вызванная полчищами москитов. За несколько недель в маленькой больнице умерло почти 300 человек{76}. Ашита, которая тогда была беременна своим первым ребенком, не отходила от больных. «Я разрывалась на части, я не могла заснуть по ночам, – говорит она. – Мне было очень сложно смотреть, как дети поступают в больницу, задыхаются и умирают. Мы ничего не могли с этим поделать».
Она оплакивала каждого умершего и ночами, не смыкая глаз, снова и снова прокручивала в голове свои решения. Может, она что-то проглядела? Может, слишком поздно поставила диагноз? Был ли способ спасти всех этих людей? Лишь много месяцев спустя она наконец обрела покой и смирилась с мыслью, что ее престижного медицинского образования недостаточно, чтобы спасать жизни в этих местах, и ей нужно научиться обходиться малым и доверять интуиции.
На профессиональное развитие Ашиты серьезно повлияла медицинская практика в условиях кризиса при недостатке ресурсов, поэтому, много лет проработав лишь с самыми примитивными вспомогательными технологиями, она не позволяет никаким технологическим новинкам, включая ИИ, ограничивать ее свободу суждений. Искусственный интеллект создан для того, чтобы давать однозначный ответ. Ему недостает тонкости. Если опыт Ашиты расходится с выводами ИИ, она знает, что не может слепо верить приложению.
«Это не волшебное средство, и я не могу позволить ему диктовать мне решения и руководить мною», – говорит она. Она понимает, что ИИ не всесилен и может ошибаться, как и врачи. «Врачи тоже сомневаются в своих выводах, но остаются в ответе за пациентов. Как врач, я принимаю взвешенные решения и делаю моральный выбор. ИИ это не под силу».
ИИ распространяется все шире, и его пользователям нужно помнить о предвзятости автоматизации – широко изучаемом феномене, который возникает, когда люди в своей работе начинают чрезмерно полагаться на автоматизацию. Он наблюдается везде – от беспилотных автомобилей до камер видеонаблюдения. Не боится ли Ашита, что врачи тоже потеряют бдительность и станут реже проверять предположения диагностического ИИ? Не разрушит ли это их навыки и не поставит ли крест на свободе их действий?
Ашита периодически размышляет об этом. Она говорит, что приложение Qure не изменило ее подход к принятию решений, но только потому, что, сверяясь с ним, она всегда остается начеку и считает его экспериментальным. Но вскоре ситуация может измениться. «Новое поколение студентов-медиков ищет простые решения и стремится к быстрой отдаче, поэтому им очень сложно объяснить, в чем ценность глубокого взаимодействия с пациентами, изучения историй болезни и проведения физикальных обследований, – говорит Ашита. – Думаю, приложение может подчинить себе лишь того, у кого нет хорошей медицинской подготовки».
Массовое воздействие предвзятости автоматизации на врачей может привести к пагубным последствиям, но Ашита полагает, что в случае с ее пациентами польза медицинского ИИ перевешивает связанные с ним риски.
«Из всех ресурсов, которые направляются на профилактику и лечение туберкулеза, инвестировать стоит именно в этот, поскольку он доступен», – говорит она. При этом Ашита понимает, что таким пациентам, как те, что лечатся у нее, он доступен лишь когда субсидируется государством, снижая необходимость в существующей медицинской инфраструктуре. Если же этот ресурс останется дорогим удовольствием, он никогда не доберется до тех, кто в нем нуждается. «Я сказала: если моим пациентам придется доплачивать за ваше приложение, я откажусь от него, – говорит Ашита. – Если вы так сделаете, я перестану им пользоваться. Я лучше буду покупать людям яйца».
Зиад
Почти в 13 тысячах километров от Индии, в самом сердце Кремниевой долины, специалист по неотложной медицине с гарвардским дипломом Зиад Обермейер, который сегодня исследует искусственный интеллект в Калифорнийском университете в Беркли, пытается внести свою скромную лепту в борьбу с несправедливостью.
В 2012 году, когда Зиад работал врачом-резидентом в одной из самых престижных больниц Бостона, ему не приходилось беспокоиться о ресурсах. Однако, будучи, по собственному выражению, «немного неумелым» резидентом в отделении неотложной помощи больницы Бригама, Зиад обнаружил, что фатальные ошибки порой совершают даже врачи, располагающие лучшими ресурсами в мире. Его удручало то, как серьезно и часто каждый день ошибаются медицинские специалисты.
«Ошибок бывает множество, особенно в отделении неотложной помощи, – говорит он, – и они очень болезненны. Там работаешь по десять-двенадцать часов в день. За это время ты осматриваешь двадцать, тридцать, иногда даже сорок пациентов и постоянно принимаешь решения. Например, такие: у этого человека сердечный приступ? Стоит ли сделать анализ? Что с ним случится, если я отправлю его домой?»
Людям сложно решать задачи со множеством переменных. В отделениях неотложной помощи врачи постоянно перебирают в голове огромное количество вариантов, часто располагая лишь неполными, беспорядочными и труднодоступными данными{77}. При этом они должны очень точно оценивать риски для жизни человека. Качество таких оценок зависит от конкретного врача – его подготовки, опыта, даже настроения. Этот процесс нельзя назвать ни объективным, ни тщательно выверенным.
Зиад десять лет изучал ошибки, совершаемые его коллегами, и опубликовал исследование, в котором проанализировал, как врачи принимают решения – в частности, при диагностике инфаркта миокарда{78}. Используя данные из больницы, где он работал, – о 246 265 обращениях в отделение неотложной помощи в 2010–2015 годах с отметками о проведенных анализах, назначенном лечении и исходе болезни, – он показал, что врачи проводят слишком много анализов для людей, у которых вероятность инфаркта невелика и для которых от анализов мало толку, но вместе с тем проводят недостаточно анализов для пациентов из групп риска, в результате чего у них недопустимо часто наблюдаются неблагоприятные исходы, включая инфаркт и даже смерть. Результаты исследования указывали на «систематические ошибки в суждениях» врачей, отчасти из-за их слишком упрощенной когнитивной модели оценки риска.
Вдобавок Зиад своими глазами видел, как больницы работают без опытных специалистов. После того как он прошел резидентуру в Бостоне, один приятель спросил у него, не хочет ли он временно поработать в отделении неотложной помощи медицинского центра «Тсехотсой»
