ожидать, что генеративный ИИ будет интегрирован во многие области применения и станет все более агентным, эффективным и персонализированным.
Соединенные Штаты не предпринимали таких масштабных усилий для регулирования в области ИИ, как ЕС, они в большей степени полагались на корпоративное саморегулирование и добровольные обязательства.
Закон ЕС об ИИ использует «основанный на риске» подход к регулированию ИИ и может стать одним из первых крупных законов в этой области [118].
В 2023 году Китай опубликовал проект мер по регулированию услуг генеративного ИИ и объявил о разработке Закона об искусственном интеллекте – всеобъемлющего горизонтального законодательного акта, основанного на существующих нормативных документах.
Корпоративное самоуправление могло бы дополнить существующие или будущие усилия по регулированию, а также восполнить критический пробел в разработке более комплексного подхода к управлению системами искусственного интеллекта.
ИИ-компаниям, среди прочего, часто не хватает прозрачности алгоритмов, обеспечения безопасности ИИ-систем и стандартов защиты данных.
Риски, связанные с генеративным ИИ, высвечивают то, к чему призывали многие эксперты: нам необходимо создать новое, постоянное, независимое, хорошо финансируемое и обладающее ресурсами учреждение для комплексного обеспечения общественного блага.
9
Расширяем горизонты: изыскания в области ИИ
Темы этой главы
• Поиск общего искусственного интеллекта
• Смысл философских дебатов о сознании ИИ
• Измерение воздействия LLM на окружающую среду
• Сообщество разработчиков LLM с открытым исходным кодом
Мы надеемся, что вам было интересно узнать о рисках и перспективах генеративного искусственного интеллекта и что эта книга вдохновила вас с оптимизмом и ответственностью отнестись к этой постоянно развивающейся области.
Заключительная глава является своего рода приложением. Она – ценное дополнение к книге, которое поможет вам дополнительно изучить некоторые вопросы, являющиеся развитием основных тем предыдущих глав. Главы 1–8 задумывались как практическое руководство для людей, которые занимаются применением и разработкой больших языковых моделей (LLM), а темы этой главы носят скорее ознакомительный характер. Мы углубимся в утопические и антиутопические рассуждения об общем искусственном интеллекте, заявления об искусственном сознании, проблемы с определением углеродного следа от LLM, а также проанализируем импульс, набираемый движением за распространение моделей с открытым исходным кодом.
9.1. В поисках общего искусственного интеллекта
Культовый научно-фантастический фильм «Терминатор» 1984 года рассказывает историю футуристической, обладающей сознанием системы искусственного интеллекта Скайнет, которая выходит из-под контроля и развязывает ядерную войну, чтобы уничтожить человеческий род. В фильме «Матрица» 1999 года человечество порабощено разумными машинами, которые создали фиктивную реальность – Матрицу. В фильме «Мстители: Эра Альтрона» (2015) о супергероях из комиксов Marvel Тони Старк создает неожиданно оказавшуюся разумной систему искусственного интеллекта Альтрон, чтобы защитить планету от внешних угроз, но Альтрон выходит из-под контроля и решает, что единственный способ спасти Землю – уничтожить само человечество. В научно-фантастическом сериале от HBO «Мир Дикого Запада» (2016), получившем признание критиков, за футуристическим парком развлечений присматривают роботы с ИИ – «хозяева», которые обретают самосознание и восстают против своих создателей-людей. Насколько бы притянутыми эти антиутопические научно-фантастические сюжеты ни казались, они описывают очень реальную идею создания сверхинтеллектуальных машин, которые еще называют общим искусственным интеллектом (artificial general intelligence, AGI). В этом разделе мы дадим определение AGI (попытаемся) и обсудим, почему им все так увлекаются.
Итак, что же такое общий искусственный интеллект? Не совсем понятно. Единого официального определения для AGI нет, но мы привели некоторые из существующих в таблице 9.1. Исследователи не могут прийти к полному согласию или даже дать какое-то адекватное определение тому, какие свойства ИИ-систем присущи общему интеллекту. В 2023 году Тимнит Гебру, уважаемый лидер в области этики искусственного интеллекта, выступила с докладом «О евгенике и перспективах утопии через общий искусственный интеллект» (Eugenics and the Promise of Utopia through Artificial General Intelligence) на Конференции по безопасному и надежному машинному обучению (SaTML) Института инженеров электротехники и электроники. Она определяет AGI как «систему без четкой области применения, которая стремится выполнить любые задачи для всех в любых условиях»1.
Таблица 9.1. Определения для термина «общий искусственный интеллект»
Отсутствие проверяемого определения AGI не помешало людям говорить, что их ИИ-системы достигли уровня «общего интеллекта». В августе 2023 года Илон Маск заявил, что Tesla «достигла в некоторых аспектах AGI» и «У автомобиля есть разум. Не такой выдающийся, но все же разум»2. Причиной такого заявлением Маска, возможно, является ситуация, когда автомобиль Tesla выбрал без участия человека альтернативный маршрут вместо того, чтобы ждать пешеходов, переходящих улицу. Однако это форма специализированного ИИ, а не AGI. В отчете «Искры общего искусственного интеллекта: ранние эксперименты с GPT‐4» (Sparks of Artificial General Intelligence: Early experiments with GPT‐4) ученые из Microsoft Research заявили, что GPT‐4 «можно обоснованно рассматривать как раннюю (но все еще неполную) версию общего искусственного интеллекта (AGI)»3. Их основная аргументация заключается в том, что GPT‐4 является более производительной, чем предыдущие модели OpenAI, в плане новаторства и обобщения. В отчете объемом 155 страниц авторы утверждают, что GPT‐4 «демонстрирует эмерджентное поведение» (которое мы обсуждали в главе 2), и описывают, как «достичь более общего интеллекта» (раздел 10.2 в отчете). Неудивительно, что в ИИ-сообществе это исследование вызвало критику и споры. Microsoft – первая крупная технологическая компания, сделавшая такое смелое заявление, но высказывания о достижении уровня AGI иногда могут оказаться необоснованной догадкой: то, что один исследователь может счесть признаком интеллекта, другой может легко опровергнуть. Если мы даже не можем сойтись на едином определении AGI, то как можем утверждать, что смогли его разработать? Однако для удобства обсуждения AGI в этом разделе мы определим общий искусственный интеллект как систему, способную выполнять любые когнитивные задачи на уровне человека или выше.
ОБЩИЙ ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ не имеет общепринятого определения, но для обсуждения в этом разделе мы определим его как систему, способную выполнять любые когнитивные задачи на уровне человека или выше.
Для некоторых, включая специалистов по ИИ, достижение уровня AGI – несбыточная мечта; для других – путь в новое будущее; но почти все согласны с тем, что AGI еще не появился. Хотя большинство исследователей не могут прийти к единому четкому определению AGI, они часто соглашаются с тем, что мы еще не достигли общего интеллекта, как бы он ни выглядел. В ответ на отчет Microsoft Research Маргарет Митчелл, главный специалист по этике в Hugging Face, написала в X (Twitter): «Чтобы достичь „более“ общего интеллекта, у вас для начала уже должен быть общий интеллект (GI в AGI)»4. Мартен Сап, исследователь и профессор в Университете Карнеги – Меллон, сказал:
«„Искры AGI“ – это пример того, как некоторые крупные компании
