используют формат исследовательских работ в качестве рекламных материалов. Авторы буквально признают во введении к своей статье, что их подход субъективен и может не соответствовать строгим стандартам научной оценки»5.
Даже в статье «Футуризм» (Futurism) говорилось, что «исследователи Microsoft могут быть кровно заинтересованы в создании шумихи вокруг работы OpenAI, осознанно или нет, поскольку Microsoft вступило в многомиллиардное партнерство с OpenAI…»6
OpenAI в особенности имеет кровный интерес в развитии общего искусственного интеллекта. Их заявленная миссия – «сделать так, чтобы общий искусственный интеллект принес пользу всему человечеству» (см. https://openai.com/about). Со времен самых первых инвестиций, сделанных в 2015 году технологическими провидцами Илоном Маском, Питером Тилем и Ридом Хоффманом, – главной целью OpenAI было развитие AGI. Что касается создания OpenAI, Маск, который назвал искусственный интеллект «самой большой экзистенциальной угрозой» для человечества7, сказал:
«Мы могли оставаться в стороне, или мы могли поддерживать надзор со стороны регулирующих органов, или мы могли принять участие в создании правильной организационной структуры с людьми, которые искренне заботятся о развитии ИИ, – так, чтобы это было безопасно и полезно для человечества»8.
Илон Маск покинул OpenAI в 2018 году после неудачной попытки поглощения и в 2023 году основал xAI – новую компанию, ориентированную на разработку ИИ, – чтобы «понять истинную природу Вселенной» (см. https://x.ai/).
В 2023 году OpenAI выпустила своего рода манифест под названием «Планы по созданию AGI и чего-то большего» (Planning for AGI and Beyond). Некоторые, безусловно, были воодушевлены видением Сэма Альтмана, но другим его пророческий тон не понравился. Генеральный директор OpenAI изложил свое видение так:
«Если мы сможем успешно создать AGI, эта технология поможет нам как человечеству подняться на более высокий уровень за счет увеличения достатка, взрывного роста мировой экономики и содействия в получении новых научных открытий, которые расширят границы возможного»9.
Публикация этой записи собрала тысячи лайков в X (Twitter), многие пользователи хорошо восприняли ее и назвали «обязательной к прочтению», а также благодарили Альтмана за начало оптимистичного диалога. Однако другие сочли ее менее глубокой. Гебру написала:
«Если бы кто-то сказал мне, что Кремниевой долиной управляет секта, верящая в бога-машину для космоса и „процветание Вселенной“, что они пишут манифесты, одобренные руководителями крупных технологических компаний, и тому подобное, я бы сказала, что кто-то слишком увлекается теориями заговора. И вот мы здесь»10.
В статье на VentureBeat авторы зашли еще дальше и заявили:
«Создается впечатление, что Альтман хочет казаться библейским пророком. Запись в блоге содержит откровения, предсказывает события, предупреждает мир о грядущем и представляет OpenAI как надежного спасителя. Но говорим ли мы об истинном провидце? Или о лжепророке? Или это вопрос прибыли? Или даже самоисполняющееся пророчество?»11.
И если уже миллионы людей познакомились с концепцией OpenAI по созданию AGI благодаря запуску ChatGPT, лишь немногие имеют представление о контексте исследований AGI и его интеллектуальных предшественниках. Внутри концепции общего искусственного интеллекта существует тенденция тяготеть к двум основным научным школам: утопии и антиутопии. Первая представляет AGI как средство положить конец всем страданиям и проблемам человечества. Здесь видится райский мир, где AGI может облегчать социальные проблемы, расширять способности человека и открывать небывалые возможности. Сторонники этой точки зрения считают, что AGI обладает потенциалом положить начало новой эпохе процветания, научных открытий и творчества. Этому оптимистичному взгляду противопоставляется антиутопическая научная школа, в которой ученые опасаются, что человечество ждет вариант Судного дня, где люди потеряют контроль над системой AGI, которую сами же и создали. Приверженцы этой точки зрения опасаются сценария, в котором сверхразумные машины выходят за пределы человеческого понимания и контроля, что может привести к астрономическому социальному неравенству, усилению экономических потрясений и даже к угрозе существованию человечества. Мы считаем, что будущее может находиться где-то посередине между утопическим и антиутопическим сценариями, и хотя признаем, что ИИ обладает потенциалом принести человечеству пользу, мы также понимаем, что путь к этому сопряжен с трудностями.
В своем выступлении в SaTML в 2023 году Гебру проводит параллели между AGI, евгеникой и трансгуманизмом, объясняя, как идея AGI зарождается в научно недостоверной теории евгеники и затем в XXI веке эволюционирует в трансгуманизм – повышение продолжительности жизни человека и улучшение его когнитивных способностей с помощью технологий. Национальный исследовательский институт генома человека определяет евгенику, возникшую в 1883 году, как «научно ошибочную и аморальную теорию расового совершенствования и плановой селекции»12. В XX веке последователи набирающей популярность евгеники верили, что проблемы современного общества обусловлены наследственными факторами, а не социально-экономическими условиями. Сторонники этой теории считали, что могут избавиться от неподходящих для общества личностей: с психическими заболеваниями и темным цветом кожи, а также бедных, преступников и так далее – с помощью методов генетики и наследственности. Печально известны результаты евгенических методов в нацистской Германии накануне Второй мировой войны, когда 400 000 немцев, которые страдали от девяти типов заболеваний и психических расстройств, были принудительно стерилизованы13. Следует подчеркнуть, что евгеника в принципе была популярным движением в Европе, Северной Америке, Великобритании, Мексике и других странах.
Гебру пишет, что евгеники боролись за улучшение человеческого рода путем селекции тех, кто обладает желательными чертами, и удаления тех, у кого есть нежелательные черты. Далее она рассказывает, как популярная в XX веке евгеника перерастает в трансгуманизм – движение, которое зародилось в 1990‐х годах в среде ученых, считавших себя прогрессивными и либеральными. Трансгуманизм – идеология, согласно которой люди могут использовать технологии, чтобы радикально улучшить себя и стать «постчеловеком», что, по мнению Гебру, по своей сути является дискриминационным, поскольку образ усовершенствованного человека приводит к идее неравенства. Трансгуманизм не пытается улучшать человеческий род путем искоренения нежелательных черт, однако стремится к той же цели путем развития новых технологий, чтобы создать людей, которых машины наделят желательными чертами. В наши дни последователи этой идеологии хотят значительно изменить человеческий вид с помощью ИИ, например, через компьютерные имплантаты и другие футуристические приспособления [119]. Многие трансгуманисты, среди которых Илон Маск, Питер Тиль, Сэм Альтман и другие, являются приверженцами родственных идеологий, которые стремятся к окончательному улучшению условий жизни человека в том смысле, в каком они это определяют.
ТРАНСГУМАНИЗМ – идеология, согласно которой человек может с помощью технологий радикально себя улучшить и стать постчеловеком.
Некоторые из этих идеологов – те же самые люди, которые подписали письмо о приостановке разработке ИИ под заголовком «Приостановим масштабные эксперименты с ИИ» (Pause Giant AI Experiments), опубликованное в марте 2023 года Институтом будущего человечества (Future of Life Institute) – организацией, ориентированной на лонгтермизм (см. http://mng.bz/VRdG). Лонгтермизм – идея, что положительное влияние на долгосрочное будущее (на миллионы, миллиарды и триллионы лет вперед) – ключевой моральный приоритет нашего времени.
