достаточно хорошем уровне?
Отсюда вытекают более общие вопросы: как обществу обеспечивать себя без работы? Может быть, нам придется разработать новую форму всеобщего универсального дохода, поскольку всю работу будет выполнять ИИ? Есть и беспокойства о будущем человечества: смогут ли дети учиться, постоянно опираясь на такие инструменты? Смогут ли они нормально думать, если так и не научатся хорошо писать? И кто мы вообще такие, если любые наши идеи и мысли могут воссоздаваться машинами?
Люди, от которых ожидаешь ответов на эти острые вопросы, – ученые, технические специалисты, философы, экономисты, даже политики – пока не знают, как на них отвечать. Они сбиты с толку и понимают, по сути, не больше, чем мы. Тем временем порождающий ИИ распространяется по миру подобно лесному пожару, внедряясь в экономику гораздо быстрее, чем правительства успевают его сдерживать.
Я решила, что и мне не помешает свежий взгляд на последствия, к которым это может привести. Мне захотелось найти того, кто поможет мне несколько полнее представить будущее и понять, какое мы займем в нем место. В результате я обратилась к миру, который всегда помогал мне в таких ситуациях, – миру научной фантастики.
Американский писатель китайского происхождения Тед Чан пишет романы о будущем, в которых поднимает такие сложные темы, как свобода воли, связь между языком и мышлением и последствия создания и использования сверхчеловеческого интеллекта. Он делает это с присущей ему простотой, научной строгостью и глубокой человечностью. Его вымышленные миры оказывают влияние на реальный. Его рассказ «История твоей жизни» лег в основу фильма «Прибытие», которым вдохновлялся Илья Полосухин – однин из исследователей Google, создавших трансформер.
В вышедшей в 2010 году повести Чана «Жизненный цикл программных объектов»{206} бывшая смотрительница зоопарка Ана устраивается на работу в ИИ-компанию, создающую разумных цифровых существ (называемых «дигитантами»), которые затем продаются людям в качестве виртуальных питомцев. В отличие от современного ИИ, это сознательные, но незрелые машины. В повести этот мысленный эксперимент растягивается на многие годы, и Чан исследует взаимоотношения творцов и их творений, а также поднимает философские вопросы, связанные с созданием интеллекта нового типа.
Каковы моральные установки этих машин? Кто несет за них ответственность? Можно ли позволить им самостоятельно принимать решения? Каким-то образом Чан превращает выдуманную историю в интимную зарисовку о воспитании детей и умении отпускать.
Мы встретились с Чаном за обедом в его родном городе Белвью, стоящем на берегу озера прямо напротив Сиэтла, и он задумался, когда я отметила, что вымышленные миры его романов все сильнее сближаются с тем миром, в котором мы обитаем.
«Машины, которые есть у нас сейчас, не обладают сознанием, – сказал он. – А когда один человек учит другого, во взаимодействие вступают именно их сознания». Между тем ИИ-модели обучаются путем настройки «весов»: чтобы достичь желаемого результата, необходимо выверить силу связей между различными переменными в модели. «Было бы ошибкой полагать, что, обучая ребенка, ты просто корректируешь веса в сети».
Главным образом Чан – весьма по-писательски – возражает против слов, которые мы выбрали для описания этих процессов. Антропоморфный язык – «обучать», «понимать», «знать» – и такие личные местоимения, как «я», которые ИИ-инженеры и журналисты спроецировали на чат-боты вроде ChatGPT, создали иллюзию, которая, по его словам, подтолкнула всех нас – даже тех, кто прекрасно знает, как работают эти системы, – к тому, чтобы замечать в ИИ-инструментах несуществующие проблески разума.
«Некоторое время назад один пользователь Twitter спросил: “Что такое искусственный интеллект?”, – а другой ответил: “Неудачный выбор слов в 1954 году”, – сказал Чан. – И они правы. Думаю, если бы еще в пятидесятых мы выбрали для этого другое обозначение, то избежали бы недопониманий, которые возникают сейчас».
Какой термин предложил бы он сам, будь у него такая возможность? Чан ответил без промедления: прикладная статистика.
«Поистине поразительно, что такие вещи можно получить путем статистического анализа большого объема текстов», – сказал он. Однако, по его мнению, этого недостаточно, чтобы соответствующие инструменты стали разумными.
Чан полагает, что термин «прикладная статистика» гораздо точнее описывает эти технологии, «но никто не хочет его использовать, ведь он звучит не так круто».
Учитывая его интерес к взаимосвязи между языком и разумом, я особенно хотела узнать, что он думает о сочинениях ИИ – тех текстах, которые создаются системами вроде ChatGPT. Я спросила, как сгенерированные компьютерами слова изменят писательство – наше общее ремесло. Впервые за все время нашего разговора я заметила в нем проблеск раздражения. «Разве они пишут хоть что-то, что находит в людях отклик? Создал ли ChatGPT хоть один очерк, который действительно тронул людей?»
Я читала прекрасное эссе Ваухини Вары о смерти ее сестры, написанное вместе с ChatGPT, но ничего из созданного чат-ботом в одиночку мне не запомнилось. Чан полагал, что БЯМ полезны главным образом для порождения вставного текста, который никто не хочет ни читать, ни писать (такие задачи антрополог Дэвид Гребер называет «бредовой работой»). Создаваемые ИИ тексты не приносят наслаждения, но Чан согласен, что им можно найти применение в определенных сферах.
«Но сам факт, что БЯМ способны на это, нельзя назвать категорическим подтверждением их поразительных способностей, – отмечает Чан. – Это больше говорит о том, сколько всякого бреда нам приходится создавать и встречать на каждом шагу в своей жизни».
Он изложил свои мысли в популярном очерке «Chat-GPT – размытый JPEG интернета», опубликованном в журнале New Yorker{207}. Он описал языковые модели как нечеткие копии текстов, на которых они обучены, – перестроенные последовательности слов, которые подчиняются правилам грамматики. Он отметил, что, поскольку эта технология реконструирует материал, который незначительно отличается от уже существующего, создается впечатление, что ИИ-системы понимают то, что делают.
Когда он сравнил это с тем, как дети учат язык, я рассказала ему, что недавно моя пятилетняя дочь начала придумывать короткие шутки, главным образом основанные на игре слов, и проверять на нас свое остроумие.
«Ваша дочь слышит шутки и находит их смешными, – сказал Чан. – ChatGPT ничего не находит смешным и сам не пытается никого рассмешить. В том же, что делает ваша дочь, содержится огромный социальный компонент».
Чан полагает, что язык, лишенный эмоций и смысла, который в него вкладывают люди, становится пустым. «Язык – это способ взаимодействия с другими существами, – говорит он. – Это разительно отличается от прогнозирования следующих элементов в последовательности, которым сейчас занимаются ИИ-инструменты».
Я прогулялась вместе с Чаном по Центральному парку Белвью – огромному зеленому оазису, где цветут ярко-розовые гортензии и журчат многочисленные ручейки. День был великолепный. Мы обошли парк несколько раз и стали узнавать людей, которые встречались нам на пути: маму с дочкой, женщину с двуногой собакой и людей,
