обучения и методов зрительного внимания показывала, что в сетчатке имеются связанные с полом отличия, которые до этого не замечали. И это еще не все: она показывала, где их искать.
Другими словами, эти методы не просто улучшают медицину. Они улучшают врачей.
Приоткрыть капот: визуализация карт объектов
Многозадачные нейронные сети с дополнительными выходными данными могут дать нам важный контекст для входных параметров и указать, куда смотрит модель. Но это ничего не говорит о том, что происходит внутри «черного ящика», то есть, о том, что модель видит в действительности.
После AlexNet в 2012 году значительным успехом в машинном обучении стали модели нейронных сетей, обучающиеся на смеси необработанной сенсорной информации – миллионах разноцветных пикселей. У этих моделей не десятки, а десятки миллионов параметров, и эти параметры представляют непередаваемые вещи – суммарные пороговые значения более ранних слоев, которые, в свою очередь, являются суммарными пороговыми значениями еще более ранних слоев, и так весь обратный путь до миллионов необработанных пикселей. Такой сырой материал для анализа не может дать понятных объяснений.
Так что же делать?
В Нью-Йоркском университете этим вопросом занялись Мэттью Зейлер и его научный руководитель Роб Фергюс. Успех этих огромных, приводящих в недоумение моделей, по словам ученых, отрицать нельзя. «Тем не менее, – пишут исследователи, – нет ясного понимания причины, по которой эти модели работают так хорошо, или способов, которыми их можно улучшить… С точки зрения научного подхода это совершенно не удовлетворительно» [277]. Другими словами, результаты получились впечатляющие, но, как говорит Зейлер, «несмотря на столь прекрасные показатели, непонятно, чему же учатся эти модели» [278].
Известно, что самый нижний слой сверточной нейронной сети – это база: вертикальные, горизонтальные и диагональные границы, один яркий цвет или простой градиент. Также известно, что в качестве окончательного результата такая нейросеть выдает категорию: кошка, собака, автомобиль и так далее. Но никто не знает, как интерпретировать все слои, лежащие посередине.
Зейлер и Фергюс разработали метод визуализации, который назвали деконволюцией или обратной сверткой. Он превращает промежуточные уровни деятельности нейронной сети обратно в изображения [279].
Впервые они увидели второй слой. Он представлял собой мешанину форм. «Параллельные линии, кривые, круги, Т-образные соединения, контуры, напоминающие градиенты, цветные пузыри – на втором слое представлено огромное разнообразие структур». Третий слой был еще более сложным, там появлялись участки объектов: что‐то похожее на части лиц, глаза, текстуры, повторяющиеся узоры. Можно было распознать такие вещи, как белый пух облака, цветные полоски на книжной полке или зеленую щетку травы. К четвертому слою нейронная сеть реагировала на очертания глаз и носа, на квадратные плитки пола, на радиальную геометрию морской звезды или паука, на лепестки цветка или клавиши печатной машинки. К пятому слою особое влияние приобретали категории, к которым будут отнесены объекты.
Результат этой работы был впечатляющим и познавательным. Но был ли он полезным? Зейлер заглянул под капот модели AlexNet, выигравшей соревнование ImageNet в 2012 году, и начал копаться в ней, изучая ее с помощью деконволюции. Он заметил ряд недостатков. Некоторые низкоуровневые части нейронной сети были нормализованы неправильно, как засвеченная фотография. Другие фильтры оказались «мертвыми» и ничего не определяли. Зейлер предположил, что у них был неверный размер для тех типов структур, которым они пытались соответствовать. Какой бы поразительно успешной ни была AlexNet, она тащила балласт. Ее можно было улучшить, и визуализация показала где.
Осенью 2013 года после нескольких суматошных месяцев Зейлер получил степень PhD, ушел из Нью-Йоркского университета, основал свою собственную компанию Clarifai и принял участие в соревновании ImageNet, в которой выиграл [280].
Другие группы, работавшие параллельно и подхватившие эстафету вслед за Зейлером, изучали иные способы визуализации работы нейронной сети. В 2015 году программисты из Google Александр Мордвинцев, Кристофер Ола и Майк Тайка экспериментировали с методикой. Они начинали с изображения из случайных помех, а потом настраивали их так, чтобы максимизировать вероятность присвоения им определенной маркировки – скажем, «банан» или «вилка» [281]. Этот обманчиво простой метод оказался удивительно мощным. Он вылился в появление запоминающихся и порой гротескных изображений. Начните оптимизировать помехи, чтобы получить, к примеру, собаку, и вы, скорее всего, увидите богомерзкое чудовище с десятками глаз и ушей, фрактально растущих друг из друга и радующих разнообразием размеров.
Эта нейросеть стала плодородной почвой для шалостей художников и даже внедрила новую визуальную эстетику. Программисты Google испробовали еще одну идею: вместо того чтобы начинать с помех и вручную вводить метку категории, они начали с реального изображения – например, облаков или листьев, – и приспосабливали изображение так, чтобы выделить зоны, в которых нейроны нейросети особенно активны. Они писали, что «создается петля обратной связи: если облако хоть немного напоминает птицу, нейронная сеть сделает его еще больше похожим на птицу. При следующем проходе это поможет нейросети распознавать птицу более уверенно. И так, пока словно из ниоткуда не появится птица со всеми деталями». Этот метод они назвали DeepDream [282].
В более философском плане подобные методы предполагают, что, граница между критиком и художником довольно зыбка, по крайней мере до тех пор, пока речь идет о нейросетях. Нейронная сеть, обученная распознавать, скажем, озера или соборы, может бесконечно штамповать изображения озер и соборов, которых никогда не видела. Это красивая, хоть и трудоемкая инструкция к искусству: любой, кто способен отличить красивую картину от некрасивой, может почувствовать себя творцом. Все, что нужно, – это хороший вкус, много времени и случайный перебор.
Подобные методы не только открывают нам множество эстетических возможностей, но более важные вещи. Например, Мордвинцев, Ола и Тайка использовали свой метод для того, чтобы система, классифицирующая изображения, «создавала» картинки, максимально похожие на образцы из разных категорий. «В некоторых случаях, – писали они, – выясняется, что нейронная сеть в действительности ищет совсем не те вещи, на которые, как нам кажется, смотрит». К примеру, среди изображений категории «гантели» могут попасться, например, руки, отделенные от тела. «Да, в них есть гантели, – пишут исследователи, – но такое изображение нельзя назвать завершенным без мускулистого тяжелоатлета, который их выжимает. В данном случае нейросеть не смогла в полной мере определить сущность гантелей. Возможно, ей показывали их исключительно в чьих‐то руках. Визуализация может помочь исправить подобные недостатки обучения» [283]. Этот метод также полезен для исследования предвзятости и способа представления. Если основанные на случайных помехах и тщательно настроенные сотни изображений категории «лица» – это набор, к примеру, лиц белых мужчин, то это прекрасный показатель того, что нейронная сеть не распознает с такой же легкостью другие типы лиц.
После первого исследования DeepDream Тайка основал в Google программу Artists and Machine Intelligence
