Б. Е. Патон, А. П. Александров, В. М. Глушков, 1970-е годы
А теперь предположим, что мы уже достигли полного симбиоза человека и машины, получена полная совместимость работы нашего мозга и компьютера. Думаю, что ученые смогут достичь этого где-то в районе 2020 года, то есть меньше чем через полвека. И вот в такой ситуации электронно-вычислительная машина посредством общения с нами наделяется нашими чувствами, нашими эмоциями, отношением к окружающим предметам и людям, в общем, нашим отношением к жизни. Короче говоря, я передаю машине все богатство информации, которую копил всю жизнь. Но сам я все еще чувствую, что я есть я.
А теперь давайте возьмем за отправную точку то, что самосознание не генетически наследуемо, а все же плод информации, накопленной нами в процессе познания жизни.
Тогда где-то на последней, завершающей стадии передачи всей информации своего мозга компьютеру я вдруг неожиданно начинаю чувствовать, что я — это я и в то же время я — это и машина. Происходит как бы раздвоение сознания, так как вместе с информацией я выплеснул в „электронный мозг“ компьютера и свое чувство самосознания. Пока мы соединены проводами, это не так сильно ощущается, ведь мы составляем как бы единый организм. Но вот все соединяющее нас отключено, и мое самосознание перешло в компьютер. Я смотрю на свое тело глазами компьютера, как на что-то чужое! […]
…если к тому времени мы сами сможем передать вместе со всей информацией нашего мозга и наше самосознание, то вполне резонно считать, что ЭВМ, старея, способна будет проделать то же самое и с не меньшим успехом с другой машиной. И таким довольно простым способом ваше собственное самосознание, а значит, и до некоторой степени вы сами тоже перекочуете в новую, еще более совершенную оболочку. Кстати, это поможет сделать мое „я“, мое самосознание, практически бессмертным».
Попробуем выяснить, каковы истоки таких представлений. В 1950–1960 годы вера в «компьютерный разум» была чрезвычайно распространена. Серьезный практик и ученый Анатолий Иванович Китов (см. посвященный ему очерк в этом сборнике) в 1956 году писал в книге «Электронные цифровые машины» [5.2]: «После того как составлен машинный словарь и разработана система четких правил для работы машины, составление самой программы машинного перевода, несмотря на ее чрезвычайную громоздкость (она содержит несколько тысяч команд), не представляет принципиальных трудностей».
Да уж — несколько тысяч команд… Через два десятилетия Глушков в цитировавшемся интервью уже оценивал переводческие возможности ЭВМ куда прозаичнее: «Эксперименты по машинному переводу проводились в нашей стране еще в пятидесятые годы. За это время машины научились прилично переводить технические и научные тексты, газеты. С художественной же литературой значительно сложнее. Компьютер не всегда правильно понимает художественные образы, метафоры… А когда он начинает переводить их дословно, то получается, как вы сами понимаете, не литература, а что-то несуразное». Но это, как видим, не помешало ему искренне верить в возможность слияния машинного и человеческого разумов.
Эта вера имеет глубокие корни, уходящие в глубь веков. Еще в XIII веке Раймонд Луллий пытался основать абсолютную и универсальную философию, основанную на представлении о познаваемости вселенной — он был одним из первых рационалистов, пытавшихся применить формальную логику к познанию мира (которое в его время в значительной степени отождествлялось с теологическими изысканиями). Луллий был уверен в том, что в каждой области знаний можно выделить несколько основных понятий, из которых могут быть дедуктивно образованы все остальные, подобно тому, как все геометрические теоремы выводятся из ограниченного числа аксиом. Он даже построил машину, которая, по его мнению, давала возможность исчерпать истину обо всем во Вселенной.
У Луллия были именитые последователи: к числу его наиболее известных почитателей относится Джордано Бруно, а также великий Лейбниц, пытавшийся создать некий «универсальный язык». Основатель математической логики английский математик Джордж Буль тоже отдал дань представлению о том, что мыслительный процесс можно описать математически: одна из его фундаментальных работ называлась «Исследование законов мышления» (1854).
Основы направления, получившего название «искусственный интеллект», уже в начале компьютерной эры заложил великий математик Алан Тьюринг. В 1950 году журналом «Mind» была опубликована его работа под названием «Computing mashinery and intelligence» («Вычислительные машины и интеллект»), которая после неоднократно переиздавалась в разных странах, в том числе и в СССР (1960), под названием «Может ли машина мыслить?» [4.2]. Из этой работы, в частности, следует любопытная историческая деталь: еще гениальная Ада Лавлейс в первой половине XIX века предвидела постановку проблемы о машинном разуме и отрицала его возможность: «Аналитическая машина не претендует на то, чтобы создавать что-то действительно новое. Машина может выполнить все то, что мы умеем ей предписать. Она может следовать анализу, но она не может предугадать какие-либо аналитические зависимости или истины. Функции машины заключаются в том, чтобы помочь нам получить то, с чем мы уже знакомы» (выделено мной. — Ю. Р.)[55].
В сущности, в этих словах уже содержатся все основные аргументы против компьютерного разума. Переводя слова леди Лавлейс на современный язык, можно сказать, что компьютер, в отличие от человеческого разума (и человека вообще) есть система детерминированная. В нем результат всегда однозначно связан с начальным состоянием.
В отличие от подобных систем, которые в кибернетике и были названы «простыми», «сложная» («большая») система ведет себя каждый раз по-другому, в зависимости от мельчайших деталей поведения воздействующих факторов, которые чаще всего и учесть-то невозможно. Типичные примеры больших систем — человеческое общество, природные системы (не только сложнейшие биогеоценозы, но и обычная атмосфера тоже), и, разумеется, человеческий мозг. Иногда их поведение с некоторой вероятностью можно предсказать на небольшой срок, но чем дальше в будущее, тем больше такой прогноз теряет достоверность, пока не размывается полностью в тумане неопределенности. Для больших систем характерны внезапные скачки («точки бифуркации»), вызванные незначимыми на первый взгляд изменениями влияющих факторов или возникновением новых, ранее не существовавших воздействий, что затрудняет построение долгосрочных математических моделей таких систем вплоть до полной невозможности.
