на площади Тяньаньмэнь в 1989 году, знает, что мы никогда не были меньшинством. Мы вовсе не меньшинство. Мы большинство».
Глава 10
Ваше общество
В последние месяцы разговоры о существовании мощной неконтролируемой технологии, которая ограничивает людей в правах и радикально меняет общество, переместились на передний план. Сначала их значимость нарастала постепенно, но затем взлетела в одночасье, главным образом благодаря одному событию, после которого ИИ ворвался в общественное пространство, – запуску ChatGPT.
Как и многие другие научные прорывы, открытие, которое подтолкнуло недавнее развитие искусственного интеллекта, случилось благодаря минутному озарению.
В начале 2017 года двое ученых из Google, Ашиш Васвани и Якоб Ушкорейт, шли по коридору штаб-квартиры компании в Маунтин-Вью, обсуждая новую идею о том, как улучшить машинный перевод – ИИ-технологию, лежащую в основе Google Translate{188}.
Вместе с другим своим коллегой, Ильей Полосухиным, они работали над концепцией, которую называли «самовниманием». Предполагалось, что ее внедрение позволит радикально ускорить и улучшить машинное понимание языка.
Полосухин, любитель научной фантастики из города Харькова, полагал, что самовнимание сродни языку пришельцев из фильма «Прибытие», который недавно вышел на экраны. В их языке не было линейных последовательностей слов. Вместо этого они составляли целые предложения, используя единственный символ, выражающий идею или концепцию, которую земным лингвистам приходилось расшифровывать целиком.
Передовые методы перевода с использованием ИИ в то время основывались на последовательном сканировании и переводе слов в предложении. При использовании концепции самовнимания предложение должно было читаться целиком, чтобы анализу подвергались сразу все входящие в него фрагменты, а не отдельные слова. Благодаря этому система могла бы лучше понимать контекст и выдавать параллельный перевод.
Ученые из Google предполагали, что этот способ позволит переводить тексты гораздо быстрее и точнее, чем существующие методы. Они начали эксперименты с опытными образцами англо-германского переводчика и обнаружили, что идея себя оправдывает.
После нескольких месяцев совместной работы в 2017 году они создали модель для машинного перевода, которую теперь называют просто трансформером. Восемь исследователей, которые в итоге приняли участие в ее разработке, описали ее в короткой статье с хлестким заголовком: «Внимание – это все, что вам нужно»{189}.
Один из авторов статьи, Ллион Джонс, выросший в крошечной деревушке в Уэльсе, говорит, что заголовок был отсылкой к песне The Beatles «All You Need Is Love». Статья была опубликована в июне 2017 года и стала толчком к началу совершенно новой эпохи в истории искусственного интеллекта – эпохи порождающего ИИ.
Появление трансформера и история его создателей помогает понять, как мы пришли к этому моменту – к поворотной точке в разработке ИИ, сравнимой с появлением интернета или к смартфонов, после прохождения которой появилось новое поколение предпринимателей, создающих на базе ИИ товары широкого потребления.
Сегодня трансформер лежит в основе передовых ИИ-систем – от поисковика и переводчика Google до автозаполнения строк при наборе текста на мобильных телефонах и распознавания речи голосовым помощником Alexa. Кроме того, он проложил калифорнийской компании OpenAI дорогу к созданию ChatGPT.
Чат-бот на базе трансформера
Ничто не могло подготовить Миру Мурати и ее коллег к тому, как ChatGPT станет использоваться в мире. 29 ноября 2022 года Мира, которая работала техническим директором OpenAI, вносила последние штрихи в новую программу, подготовленную к релизу на следующий день{190}. Большой шумихи по этому поводу не было, потому что пока был готов лишь экспериментальный образец. Мира ушла домой не позже обычного.
Она устроилась в OpenAI несколькими годами ранее, когда это еще была некоммерческая исследовательская лаборатория, перед которой стояла единственная цель – создать искусственную форму «общего интеллекта», то есть ИИ-программу, способную справляться с любыми задачами не хуже человека. Компанию основали радикально настроенные предприниматели-технари, включая Илона Маска и Питера Тиля, которые опасались, что со временем ИИ может уничтожить человечество. Как же они решили проблему? Профинансировали создание благонамеренной ИИ-системы, которую они могли держать под контролем, чтобы она творила добро и не причиняла зла.
Но затем произошла трансформация. OpenAI получила от Microsoft весомые инвестиции в размере более 10 млрд долларов и была, по сути, преобразована в коммерческое предприятие, которое стало продавать ИИ-технологии крупным корпорациям и государственным органам по всему миру{191}.
Главным достоянием OpenAI была модель GPT – generative pre-trained transformer, «порождающий предобученный трансформер», – способный давать текстовые ответы на запросы, поступающие от людей. В его создании принял участие один из авторов статьи о самовнимании Лукаш Кайзер, который пришел работать в OpenAI. Это была впечатляющая технология, однако до ноября 2022 года она была несовершенна, неповоротлива и подвластна главным образом хорошо подкованным специалистам.
Создать компьютерную программу, способную напрямую общаться с нами на нашем языке, весьма нелегко. Но через некоторое время алгоритм перестал казаться программистам OpenAI какой-то диковинкой. Они решили, что, если на пике популярности программой воспользуется хотя бы миллион человек, они проанализируют этот опыт и учтут его при разработке будущих систем. Перед ними по-прежнему стояла цель создать общий сверхчеловеческий интеллект.
Мира хотела, чтобы новая программа была лишена искусственности. Она хотела сделать так, чтобы человек вступал с компьютером в диалог и интуитивно нащупывал границы возможного – ровно как в разговорах между людьми, позволяющих нам обмениваться информацией и учиться друг у друга. В итоге в день релиза 30 ноября 2022 года ChatGPT был предельно прост: он представлял собой окошко с мигающим курсором, готовым к набору текста. Внутри виднелись полупрозрачные буквы: «Отправьте сообщение».
Через три дня после запуска ChatGPT преодолел порог в миллион пользователей, хотя его создатели и ожидали, что такое число они увидят только на пике популярности приложения. Еще через несколько недель количество пользователей достигло нескольких десятков миллионов. Через полгода после запуска число ежемесячных пользователей ChatGPT существенно превышало 100 млн человек. ChatGPT вырвался из контролируемой лабораторной среды и стал одним из крупнейших в истории социальных экспериментов.
Но поднявшаяся на первых порах шумиха не отменяла уже знакомые мне недостатки ИИ-программ, воспроизводящих в частности предвзятость своих создателей: камер с системой распознавания лиц, которые не справлялись с идентификацией чернокожих, и предиктивных систем охраны правопорядка, которые выбирали в качестве мишеней неполные семьи из населенных иммигрантами районов Амстердама.
Однако новая форма ИИ принесла с собой и новые проблемы. В основе ChatGPT лежит большая языковая модель (БЯМ) – технология, которая работает не как поисковый инструмент, ищущий различные факты, а как инструмент для выявления закономерностей, угадывающий наиболее вероятный следующий элемент в последовательности{192}.
В силу своего стохастического характера БЯМ также могут непредсказуемым и вопиющим образом фабриковать информацию – или «рождать галлюцинации». Они способны
