чисел, в свою очередь, «скармливались» примитивной нейронной сети, напоминающей те, которые Маккаллок и Питтс представляли себе в начале 1940‐х годов. Каждое из значений этих двоичных пикселей умножалось на индивидуально определенный положительный или отрицательный вес связи, а потом они складывались. Если сумма получалась отрицательной, на выходе оказывалось число –1 (что означало, что квадрат на карте находится слева), а если положительной, то 1 (квадрат справа).
Первоначально четыреста весовых значений перцептрона были настроены случайным образом, и его выходные сигналы в результате не поддавались никакой логике. Но каждый раз, когда система была «неправа», Розенблатт «тренировал» ее, настраивая значения: если вес связи оказывался слишком низким, его увеличивали, а слишком высокий уменьшали.
После пятидесяти проб машина могла надежно отличить карты с квадратом слева от карт с квадратом справа, в том числе и те, которые ей ранее не показывали.
Сама демонстрация прошла поразительно скромно, но ее значение нельзя преуменьшать. Машина на самом деле научилась на личном опыте – произошло то, что Розенблатт называл «самопроизвольным изменением в схеме соединений» [28].
Маккаллок и Питтс описали нейрон как простую единицу логики и арифметики, имеющую вход и выход, и показали огромную силу таких элементарных механизмов, если они представлены в достаточном количестве и нужным образом соединены. Но они практически ничего не сказали о том, как именно достичь этого правильного соединения [29].
«Розенблатт сделал очень сильное заявление, которому я вначале не поверил, – рассказывал Марвин Минский из Массачусетского технологического института, по воле случая оказавшийся бывшим одноклассником Розенблатта по Старшей школе наук в Бронксе [30]. – Он сказал, что, если перцептрон в принципе возможно спроектировать так, чтобы он мог что‐то распознавать, тогда должна существовать процедура для модификации его ответов таким образом, чтобы в конце концов он научился правильно распознавать. Предположение Розенблатта действительно оказалось математически верным. Я почувствовал сильнейшее восхищение его догадкой об этом принципе, потому что доказать его очень трудно».
Перцептрон, каким бы простым он ни был, стал прообразом большинства систем машинного обучения, о которых мы будем говорить. У него есть архитектура модели: в данном случае один-единственный искусственный «нейрон» с четырьмя сотнями входных каналов, каждый из которых имеет свой собственный множитель веса связи, складывающихся вместе и превращающихся в выходной результат по типу «все или ничего». Архитектура имеет ряд настраиваемых переменных или параметров: в данном случае положительные или отрицательные множители связаны с каждым входным каналом. Присутствует и набор данных для обучения: в данном случае – колода дидактических карт с одним из типов форм на каждой. Параметры модели настраиваются с помощью алгоритма оптимизации или алгоритма обучения.
Основной алгоритм обучения как перцептрона, так и многих его современных «потомков» по-научному именуется стохастическим градиентным спуском. Звучит пугающе, но принцип действия достаточно прост – выберите случайным образом некое подмножество данных для обучения (стохастический) и введите их в модель. Если на выходе вы получите то, что хотели, оставьте все как есть. Если вы получили нечто иное, тогда прикиньте, в каком направлении (градиент) изменить каждый вес связи – подкрутить ручки прибора или просто поменять цифры в программном обеспечении, – чтобы уменьшить ошибку в данном конкретном случае. Изменяйте значения понемногу в правильном направлении (спуск). Возьмите новый случайный пример данных и начните заново. Повторяйте столько раз, сколько понадобится.
Это основной способ действий для машинного обучения, и скромная оценка перцептрона одновременно недооценила и переоценила то, что должно было произойти в будущем.
«Военно-морские силы, – сообщала New York Times, – сегодня показали находящийся в зачаточном состоянии прототип компьютера, который, возможно, сумеет ходить, говорить, видеть, писать и даже осознать свое существование» [31].
New Yorker писал о перцептроне: «Само название говорит о том, что прибор может принимать оригинальные решения. В самом деле потрясающе, ведь это первый серьезный соперник человеческого мозга».
Розенблатт сказал репортеру New Yorker: «Успех в разработке перцептрона означает, что впервые небиологический объект смог продуктивно организовать окружающую среду. Этими словами определить то, что делает перцептрон. Мой коллега с неодобрением относится к безответственными заявлениям о механическом мозге. Он предпочитает называть нашу машину самоорганизующейся системой, но, между нами говоря, так можно сказать о любом мозге» [32].
В том же году журнал New Scientist опубликовал столь же обнадеживающую и чуть более рациональную статью под названием «Машины, которые учатся» [33]. «Для выполнения сложных задач к машинам полезно подключать приспособления, точный метод работы которых не определен заранее, – говорилось в статье, – но которые способны учиться, накапливая опыт. Тогда мы сможем производить машины для работ, которые нельзя детально проанализировать из-за их сложности. Самообучающиеся машины могут сыграть роль в таких проектах, как механический перевод и автоматическое распознавание речи и визуальных образов.
Использование термина „машинное обучение“ предполагает сравнение с обучением людей и животных. Сравнивать мозг и машину следует, по меньшей мере, с осторожностью, но такие аналогии поощряют работников разных сфер узнавать друг друга. Возможно, размышления о машинах, способных учиться, в конце концов породят систему, которая станет аналогом некой формы биологического обучения».
В истории искусственного интеллекта периоды надежды и отчаяния то и дело сменяли друг друга, а будущее в стиле анимационного ситкома «Джетсоны», которое, казалось бы, предвещал перцептрон, наступает очень медленно.
Потратив несколько лет на оценку произошедших событий, Розенблатт захотел, чтобы журналисты более осторожно реагировали на его изобретение. Как он сказал, средство массовой информации «принялись за эту задачу с энтузиазмом и осторожностью стаи взбудораженных ищеек». В то же время ученый признавал, что с его стороны «в предварительных отчетах не доставало математической строгости» [34].
Минский, несмотря на «бесконечное восхищение» Розенблаттом и его машиной, начал «беспокоиться о том, чего эта машина делать не сможет». В 1969 году он и его коллега по Массачусетскому технологическому институту Сеймур Пейперт опубликовали книгу под названием «Перцептроны», практически перекрыв кислород целому направлению исследований. Минский и Пейперт с помощью жесткой формальности математических доказательств продемонстрировали, что существуют основные структуры, которые модель Розенблатта никогда не сможет распознать. Например, невозможно натренировать ее различать карточки с четным и нечетным количеством квадратов. Единственный способ распознавать подобные более сложные категории – это использовать сеть со множеством слоев, в которой более ранние слои создают представление необработанных данных, а более поздние оперируют с этим представлением. Но никто не знал, как настроить параметры более ранних слоев, чтобы сделать представление полезным для более поздних. На отрасль обрушилось что‐то вроде груды кирпичей. «К 1969 году по перцептронам было опубликовано несколько тысяч работ, – говорил Минский. – Наша книга положила им конец» [35].
Над отраслью сгустились тучи, все шло прахом: исследования, финансирование, люди. Питтс, Маккаллок и Летвин, которые к тому времени перебрались в Массачусетский технологический институт, попали
