в тот момент три авраамические религии объединились для защиты человечества.
* * *
Каким бы трогательным ни был этот момент, поиском ответов на столь сложные и экзистенциальные вопросы не должны заниматься одни лишь религиозные лидеры. Как отмечают они сами, им сложно похвастаться умением работать вместе и подавать нравоучительный пример. Кроме того, закон не обязывает никого исполнять Римский призыв – это лишь добровольно взятое на себя обязательство.
Разработка идеально этичной ИИ-системы должна стать коллективным делом. В ней должны принять участие представители разных культур, а также инноваторы из крупных компаний и продавцы ИИ-продуктов. Эта задача требует воображения художников, писателей, актеров и музыкантов, творчество которых используется для создания порождающего ИИ, и опыта политиков, экономистов, ученых, философов и этиков, для которых это не первая волна радикальных социальных перемен.
Написав эту книгу и множество статей об ИИ, над которыми я работала последние несколько лет, я вернулась в исходную точку: к списку вопросов, которые наделяют людей полномочиями и помогают им вернуть себе возможность влиять на ситуацию при использовании ИИ и установлении контроля над новыми технологиями. В десяти этих простых вопросах нет величия Римского призыва и Блетчлийской декларации. Они родились из моих бесед с людьми, которые размышляют об ИИ, и из опыта тех, о ком я писала на страницах этой книги. Именно эти вопросы я задаю себе всякий раз, когда встречаюсь с ИИ-инструментом. Они – для вас, кем бы вы ни были, если вы вообще хотите использовать ИИ-технологии, бороться против них или просто понимать их лучше.
1. Какой была бы более справедливая и сообразная оплата труда специалистов по обработке данных для ИИ из разных стран, учитывая, что рынок их услуг растет и приносит огромную прибыль?
2. Как включить маргинализированные группы и другие меньшинства в число создателей и изобретателей ИИ, не нанимая их представителей на работу в таких эксплуататорских сферах, как модерация контента?
3. Какие создаваемые и поддерживаемые ИИ продукты следует четко преподносить потребителям как таковые и какие из них должны давать пользователям возможность, ничем не рискуя, запрашивать проверку человеком тех решений, которые принимает система?
4. Как понять, что ИИ-продукт безопасен, то есть не может быть взломан и использован в корыстных целях? Как удостовериться, что он не проявляет дискриминацию? Если это невозможно, стоит ли вообще предлагать его обществу?
5. Какие существующие области права можно изменить или прояснить с учетом ИИ? Например, что делать с авторским правом, законодательством о неприкосновенности частной жизни, законодательством о кибербезопасности, законами о противодействии дискриминации и соблюдении других прав человека?
6. Как расширить состав участников дискуссий о развитии и регулировании ИИ – особенно за счет незападных голосов?
7. Если ИИ-продукты могут помогать нам ограничивать неравенство (например, в здравоохранении), доступны ли они сообществам, которые в них нуждаются, или же только тем, кто способен за них заплатить?
8. Кто несет ответственность за решения и результаты работы ИИ-инструментов в таких принципиально важных областях, как трудоустройство, правосудие и социальное обеспечение, и контролируются ли они должным образом?
9. Как оплачивать творческую работу и опыт людей (например, художников, писателей, фотографов), результаты труда которых разработчики технологий сегодня по большей части бесплатно используют для создания новых ИИ-систем?
10. Каковы возможности для эмансипации граждан перед лицом ИИ, то есть для отказа от работы с ИИ-системами, удаления данных из порождающих ИИ-систем и возможности выбирать между человеческими и автоматизированными решениями?
* * *
Когда я только пришла в сферу технологической журналистики, ИИ привлекал меня своими огромными возможностями: он обладал потенциалом расширять человеческий разум и решать неразрешимые задачи. Он мог бы стать главным, а может, и последним изобретением человечества. Многие поборники ИИ считают его трансгуманистической технологией – продолжением нас самих, которое может усовершенствовать наш вид и сделать нас лучше. Глава одной из ведущих ИИ-компаний Google DeepMind Демис Хассабис часто говорит, что перед ним стоит цель «решить задачу разума», словно человеческий разум – это математическое уравнение или очередной уровень видеоигры. Возможности для совершенствования человечества казались мне безграничными.
Но все изменилось, когда я решила узнать, как ИИ влияет жизнь людей из разных стран. В последние пять лет ИИ развивался огромными темпами, но моя любовь к нему постепенно затухала. Языковые модели, несомненно, производили на меня впечатление своей способностью анализировать тексты и как будто бы логически понимать слова – это было сродни магии, – но чем больше историй я узнавала, тем лучше понимала, что меня вдохновляют не продвинутые алгоритмы и не результаты их работы, а люди, которые используют эти технологии и подстраиваются под них: врачи, ученые, гиг-работники, активисты и представители творческих профессий – лучшие из нас. Хотя я положительно оцениваю социальную значимость ИИ, я полагаю, что, каким бы исключительным ни был инструмент, он полезен лишь в том случае, если оберегает достоинство человека. Я надеюсь, что ИИ не создаст из нас новый, улучшенный вид, лишенный хаоса человеческой сущности, а поможет нам, обычным, несовершенным людям, жить счастливо.
Стоя на январском солнце возле официальной резиденции папы римского, я разговорилась с рабби Давидом Розеном, бывшим главным раввином Ирландии, который теперь возглавляет отдел межконфессиональных отношений в Американском еврейском комитете. Он был со мной честен: он сказал, что ситуация с этой межконфессиональной встречей отчасти парадоксальна, ведь религия не раз становилась объектом злоупотребления, что приводило к многочисленным войнам и кровопролитиям. Розен отметил, что конфликты всегда вспыхивают из-за власти. Сегодня технологические компании, которые преодолевают любые государственные границы, имея миллиарды пользователей из разных стран, наделены огромной властью и оказывают колоссальное влияние на мир, подобно тому как в древности такое влияние оказывала религия. «Наша задача – напоминать технологическим компаниям о капризах власти», – добавил он.
Как же тогда найти решение – как найти способ превратить мощнейшую технологию, которая лишает нас самостоятельности, в нечто, что позволит нам расти над собой? Я задала этот вопрос вслух, медленно поднимаясь по извилистой мраморной лестнице в Апостольском дворце вместе с рабби Розеном и его коллегой.
Они улыбнулись на ходу. «Нужно сделать много, много шагов».
Благодарности
Прежде всего я хочу сказать спасибо людям, без которых этой книги просто не было бы. Спасибо Иэну, Бендже, Хибе, Але, Сьюзан; Хелен и Ноэль; Карлу и Шер; Ашите и Зиаду; Диане; Пабло и Норме; Армину; Кори; Майе, а еще Паоло. Я благодарю вас за готовность открыть мне свою жизнь, ответить на бесконечные вопросы и рассказать свои истории.
Патрик Уолш вытащил эту книгу у меня из головы и помог ей обрести реальную форму. Я не могла и мечтать о более мудром, добром и сведущем проводнике по странному и чудесному
