сидящих на скамейках с книгами, журналами и мороженым. Я спросила у Чана, как, по его мнению, изменится мир, если люди станут постоянно взаимодействовать с машинами.
Он спросил, помню ли я героя Тома Хэнкса из фильма «Изгой». Его единственным спутником на необитаемом острове был волейбольный мяч, который он назвал Уилсоном, и герой Хэнкса его любил. «Полагаю, именно так и стоит думать об этих системах, – сказал Чан. – Это не умаляет того, что герой Тома Хэнкса чувствует по отношению к Уилсону, потому что Уилсон действительно становится для него утешением. Но дело в том… что он переносит свои чувства на мяч. Больше там никого нет».
Чан понимает, почему люди в будущем могут перейти к общению с ИИ-системами, вместо того чтобы и дальше общаться друг с другом. «В этом нет ничего удивительного, ведь взаимодействовать с людьми непросто. Это очень тяжело. Это многого от тебя требует, а отдачи ты часто не получаешь», – отмечает он.
И все-таки Чан считает, что современная жизнь разбрасывает людей по маленьким необитаемым островам, где каждый тоскует по товариществу и дружбе. «И из-за этого возникает спрос на волейбольные мячи, – говорит он. – Социальные чат-боты поддерживают людей и служат для них утешением, прямо как Уилсон».
Но смысл нашей жизни все равно придают внимание и сопереживание, которые мы получаем из общения с людьми, когда все мы отвечаем друг другу. При общении с ИИ, однако, «кажется, что на другом конце кто-то есть. Но это не так».
* * *
Мои беседы с Чаном заставили меня обратиться к научной фантастике, чтобы привести в порядок обрывочные мысли о том, как повлияет на всех нас порождающий ИИ. В результате я наткнулась на рассказ Эдварда Форстера «Машина останавливается», написанный в 1909 году{208}, и никак не могла выбросить его из головы.
В нем люди живут в отдельных ячейках и пребывают в постоянном страхе «непосредственного восприятия» и «оригинальных идей»{209}. Главная героиня рассказа, преподавательница по имени Вашти, общается со своим сыном, живущим на противоположной стороне земного шара, с помощью устройства, называемого Машиной. Машина может виртуально связывать людей друг с другом, но при этом не передает оттенков их чувств и эмоций. Она создает лишь неплохую аппроксимацию. Но «человечество давно уже привыкло довольствоваться… “вполне достаточным”», – отмечает Вашти.
Мысль Форстера о машине, создающей размытую версию реальности, которая в итоге заменяет реальный мир, где живут люди, кажется сегодня чрезвычайно злободневной. Когда я посмотрела вокруг и вспомнила, что сама писала о том, как порождающий ИИ создает ложный или предвзятый контент, я стала видеть эту идею повсюду. Форстер описал то, что более столетия спустя мы назвали миром «постправды».
Но особенно мне запомнилась концовка истории, в которой рассказывается о судьбе Машины. Со временем она начинает приходить в упадок и, разрушаясь, искажает реальность: отравляет мелодии знаменитых симфоний, создает неприятные запахи, неприглядные картины и даже «дефективные» стихи, а людям приходится мириться с ее токсичностью. В конце концов они привыкают к новому положению вещей.
Проблема в том, что в мире Форстера никто уже не знает, как починить Машину. Люди стали слишком далеки от нее, а опыт и навыки сосредоточены в руках у немногочисленных власть имущих. «Во всем мире не оставалось никого, кто разбирался бы в устройстве чудовищного механизма в целом», – пишет Форстер.
Но при этом люди спокойно впускали Машину в свою жизнь. Того немногого, что им было известно о ее чудесных свойствах – как именно она работала и чем могла им помогать, – им было вполне достаточно.
Эпилог
Двадцать шестого февраля 2022 года, через два дня после того как в Европе впервые за несколько десятилетий разразилась война, отец Паоло Бенанти быстро шел по центру Рима. Уворачиваясь от городских автобусов, велосипедистов и уличных музыкантов, он перешел тысячелетний мост Святого Ангела и вышел на улицу Примирения, которая ведет в Ватикан. Он направлялся в Апостольский дворец – официальную резиденцию римского папы, – где должен был присутствовать на довольно важной встрече.
Паоло – монах-францисканец. Вместе с четырьмя другими братьями он живет в спартанских кельях, расположенных над крошечной римской церковью. Францисканцы принимают монашество и живут в общинах, но отличаются от обычных священнослужителей. Они преподают и занимаются благотворительностью, следуя примеру святого основателя своего ордена Франциска Ассизского. Монастырь Паоло – дом науки: все монахи, самому старшему из которых исполнилось 102 года, занимают профессорские должности (или занимали их в прошлом), а области их специализации включают химию, философию, технологии и музыку.
Пятидесятилетний Паоло – самый молодой в своей братии. Он инженер и специалист по этике, и оба этих звания он гордо носит поверх своей монашеской рясы. Он занимает должность профессора этики в Папском Григорианском университете – учебном заведении с почти пятисотлетней историей, расположенном примерно в десяти минутах ходьбы от его монастыря. Там он наставляет молодых богословов и священников в вопросах морали и этики, имеющих отношение к таким передовым технологиям, как биоаугментация, нейроэтика и искусственный интеллект.
В тот день Паоло спешил на встречу с папой Франциском – понтификом родом из Аргентины, которого он сравнивает со страстным танго, в то время как его предшественник походил на чинный вальс. На встрече Паоло должен был взять на себя роль переводчика между языками и дисциплинами. Он свободно говорит по-английски и по-итальянски и прекрасно разбирается в технологиях, этике и религии.
Аудиенции с папой удостоился Брэд Смит, президент крупной американской технологической корпорации Microsoft, который накануне прилетел в Рим на личном самолете. На повестке дня стоял вопрос об ИИ – в частности, о том, как человечеству использовать эту мощную технологию себе во благо, не оказываясь при этом в ее власти. Встреча была весьма своевременной: папу беспокоило возможное применение искусственного интеллекта в конфликте на Украине – не говоря уже о том, что он пытался понять, что может сделать, чтобы эта технология не уничтожила человечество.
В последние три года Паоло стал настоящим заклинателем ИИ для высших эшелонов Святого Престола. Этот монах, прошедший стажировку в Джорджтаунском университете в США в рамках работы над диссертацией по этике технологий улучшения человека, информирует 85-летнего папу и его старших советников о потенциальных способах использования искусственного интеллекта, который называет технологией общего назначения, «как электричество и сталь», и объясняет, как ИИ со временем изменит нашу жизнь. Вдобавок он выступает связующим звеном между мирами, которые Стивен Джей Гулд, как известно, назвал «непересекающимися магистериями»: религиозными лидерами с одной стороны и технологиями – с другой.
Паоло проводил встречи с вице-президентом IBM Джоном Келли, с
