полностью излечить». Это был первый случай, когда нейронная сеть оказала клиническое влияние. «И я надеюсь, – говорит Ко, – что это первый случай из многих».
Но история оказалась несколько сложнее. На следующий год Ко, Новоа и их коллеги отправили в Journal of Investigative Dermatology письмо, предупреждающее о том, что не стоит слишком быстро вводить нейросети в рутинную клиническую практику.
Теперь они чувствовали, что внедрять такие модели в отрасль нужно с предельной осторожностью, и подчеркнули свою точку зрения поучительной историей из личного опыта. Система компьютерного зрения, которую они использовали, с большой вероятностью относила к злокачественным новообразованиям изображения линейки. Почему? Дело в том, что на медицинских изображениях опухолей линейка для определения масштаба появляется чаще, чем на изображениях здоровой кожи. «Алгоритм самопроизвольно „научился“ тому, что линейки означают рак» [272]. Как бы то ни было, окончательное решение очень сложное: должен ли набор данных содержать достаточно разнообразные варианты или все подающиеся на вход изображения должны быть тем или иным образом стандартизированы? «Нужно и дальше рассматривать все множество затронутых нюансов, – пришли к выводу ученые, – чтобы безопасно внедрить новые технологии в больницы».
Расскажи мне обо всем: многозадачная сеть
Один из самых простых способов сделать сложные модели более прозрачными и понятными – это получать на выходе больше вещей. Когда Рич Каруана работал с нейронными сетями, предсказывающими медицинские результаты, он понял, что нейросеть можно использовать не только для одного прогноза – скажем, выживет пациент или умрет, – но и для многих других: как долго он пробудет в больнице, каким будет его счет, понадобится ли ему искусственная вентиляция легких, сколько курсов антибиотиков ему предстоит пропить и т. д.
Вся эта дополнительная информация в наборе данных бесполезна в качестве дополнительных входных параметров для модели. Умение прогнозировать смерть пациента, основываясь на данных о его счете за лечение, не поможет с новым пациентом, потому что в этот момент вы, разумеется, не знаете, каким будет его счет. Но вместо того чтобы служить дополнительными входными параметрами, эта информация полезна как дополнительные выходные данные, дополнительные источники экспериментальных данных для обучения модели. Метод получил известность как многозадачное обучение [273].
«Странно, что это оказалось проще, чем обучать модель предсказывать по одной из этих вещей за раз, – рассказывает Каруана [274]. – Теперь можно думать об обучении сотне сопутствующих проблем одновременно, что дает больше сигналов. Больше информации».
В качестве примера он предложил представить, что меня кладут в больницу в достаточно тяжелом состоянии, допустим, с пневмонией. Предположим, я выжил, но провел в больнице месяц, и мой счет дошел до полумиллиона долларов. «Теперь понятно – что‐то пошло не так, – говорит Каруана. – Ситуация вышла из-под вашего контроля. Вряд ли ее можно отнести к тому, что мы называем „страшными последствиями“. Но ясно, что вы были очень и очень больны».
Для системы, созданной исключительно чтобы прогнозировать риск смертности, моя ситуация войдет в данные для обучения как эталонный случай с риском смерти, равным нулю, поскольку я остался жив. При этом кое-что будет упущено. Как выразился Каруана, в моем положении был очень «высокорискованный нуль». Если мне и в самом деле просто повезло, может быть, в будущем в подобных случаях система должна прогнозировать 80 % шансов умереть, а не 0 %. Дав ей для обучения более широкий диапазон данных на выходе и возможность делать несколько прогнозов одновременно, можно добиться от системы более точных оценок.
Каруана начал понимать, что «многозадачные» модели лучше не только в традиционном смысле – они быстрее учатся и достигают более высокой скорости, а также обладают высокой прозрачностью, поэтому проблемы находить проще. Если работающая в здравоохранении система, созданная в 1990‐х, способна прогнозировать только, выживет пациент или умрет, можно обнаружить, что она предсказывает совершенно неожиданные вещи, к примеру, что астматики рискуют умереть меньше, чем обычные амбулаторные пациенты. С другой стороны, если мультизадачная нейросеть по набору данных может делать самые разные прогнозы – не только смертности, но и длительности пребывания в больнице или стоимости лечения в долларах, – эти аномалии гораздо проще заметить. У астматиков, например, тяжесть заболевания может быть выше средней и астрономические медицинские счета. Очевидно, что это не обычные пациенты с низким риском, которых отправляют домой с указаниями выпить две таблетки и утром позвонить в больницу.
В некоторых случаях дополнительные результаты могут обеспечить нас чем‐то более значительным. В 2017 и 2018 годах Verily, дочерняя компания Google, которая разрабатывала решения проблем людей, страдающих различными заболеваниями, и медицинская школа Стэнфорда работали над адаптацией нейросети Google Inception v3 для классификации изображений сетчатки глаза [275]. Они добились внушительных диагностических результатов: модель распознавала такие заболевания, как диабетическая ретинопатия, с точностью экспертов. Тем не менее команда понимала, что набор данных, используемый для обучения, содержал все виды информации о пациенте: возраст, пол, индекс массы тела, вредные привычки и так далее. «Можно сказать, мы добавили эти переменные в модель», – говорил исследователь Google Райан Поплин [276]. Вслед за Каруаной ученые подумали: раз у модели есть дополнительная информация о пациенте, почему бы ей не делать и другие прогнозы? Что, если обращаться с этой информацией – возрастом, полом, артериальным давлением – не как с дополнительными входными параметрами, а как с дополнительными выходными результатами? Это может быть шансом сделать модель надежнее и заметить случаи, когда ее прогнозы неверны. «Мы подумали, что сможем дать модели больше контроля и эталонных данных», – рассказывает Поплин.
Результат их поразил. Нейросеть смогла практически идеально определить возраст и пол пациента по изображению сетчатки.
Врачи из команды не верили, что результаты честны. «Стоит кому‐нибудь показать, – вспоминает Поплин, – как вам скажут: „Должно быть, здесь какая‐то ошибка. Потому что нет способа прогнозировать это с такой точностью“. Зарываясь в проблему все глубже, мы обнаружили, что в модели нет никакой ошибки. Это был настоящий прогноз».
Команда использовала метод зрительного внимания, чтобы узнать, на какие детали обращала внимание нейросеть. Выяснилось, что при определении возраста она смотрела в основном на кровеносные сосуды, а при определении пола, напротив, – на желтое пятно глаза и диск зрительного нерва.
Поплин рассказывал, что результаты развеселили врачей: «Они над нами потешались. Не верили своим глазам. Но потом, когда им показывали тепловую карту, когда они понимали, что модель обращает внимание на диск зрительного нерва и какие‐то его характерные особенности, говорили: „Ну конечно, мы это знали, разумеется, вы можете это видеть!“ Показав, какую часть изображения модель использует для прогноза, мы обеспечили определенный уровень доверия и некую обоснованность результатов».
Помимо прогностической точности модель предлагала новый интересный путь для медицины как науки. Комбинация многозадачного
