поскольку он считает ее более демократическим методом регистрации голосов избирателей. Впрочем, Армин не ограничивается большими делами. Он охотно соглашается на звание борца за социальную справедливость на микроуровне.
Однажды он купил в веганском отделе супермаркета Target готовое карри и обнаружил, что в нем содержится топленое масло гхи, то есть молочный продукт. Он попытался объяснить управляющему магазином, что указывать некорректную информацию о продуктах питания опасно, но это ни к чему не привело. В итоге он написал официальную жалобу в окружной департамент здравоохранения. Через месяц, получив от Армина целую дюжину электронных писем, окружные власти отправили в магазин инспектора и управляющему пришлось переименовать отдел в вегетарианский.
За несколько месяцев до этого Армин попытался получить в другом супермаркете бесплатную пинту молока, которая предлагалась по акции, но автоматизированная система не смогла распознать фотографию его чека. Его заявку отклонили. Армин несколько недель переписывался с владельцами магазина, пока в конце концов не получил от них четыре доллара в качестве компенсации.
Трудясь программистом на прошлой работе, он заметил, что генеральный директор постоянно использует для мотивации сотрудников непроверенную статистику. Сначала Армин сообщил ему об этом в разговоре один на один, а затем, когда ничего не изменилось, сказал об этом во всеуслышание на встрече команды. Директор больше не упоминал эти цифры – но Армина в итоге выдавили из компании.
Когда он решил поработать летом в доставке UberEats, он понятия не имел, что привычные ему представления о работе уже неактуальны. Он оказался в мире, где люди были пешками, а управлял ими алгоритм. Там действовали неписаные правила, которые постоянно менялись, начальство было лишено человеческого облика, а сам Армин вообще не имел права голоса. Это просто не укладывалось у него в голове.
В 2019 году он переехал из Беркли в холмистый Питтсбург, устроившись в стартап Argo.ai, который разрабатывает беспилотные автомобили и получает финансирование от Ford и Volkswagen. Армин возглавил команду по созданию пользовательского интерфейса, обеспечивающего взаимодействие пассажиров с беспилотным автомобилем. Он часами наблюдал за поведением водителей, отмечая, что их раздражает и как именно они принимают решения, и моделировал реакцию ИИ с учетом водительской психологии. Он был переводчиком с языка человека на язык машины.
Разрабатывая программы для беспилотных автомобилей, Армин осознал, что участвует в создании двухтонной движущейся машины смерти, проходящей испытания на настоящих дорогах, и ошибка в коде может в буквальном смысле кого-нибудь убить. За год до этого, в 2018-м, опытный образец беспилотного такси Uber насмерть сбил пешехода в Аризоне, когда водитель, который должен был следить за работой автопилота, отвлекся, вероятно, на просмотр шоу «Голос» на смартфоне{119}. В отличие от каких-нибудь опор моста, код не бывает абсолютно ничейным. Сотрудники технологических компаний, включая Армина, начали понимать: даже если ты «просто» создаешь алгоритмы, это не освобождает тебя от ответственности за работу твоего продукта в реальном мире. Как и многие его коллеги, Армин задумался о том, насколько этичны его разработки, и стал сомневаться, будут ли они приносить пользу обществу. Летом 2020 года он ушел из Argo, поскольку понял, что беспилотные автомобили, возможно, повысят безопасность на дорогах, но вряд ли сделают города более пригодными для жизни – а это было для него важнее всего.
Чтобы понять, куда податься дальше, он сделал паузу в карьере и оценил имеющиеся варианты. Ему хотелось покататься на велосипеде по Питтсбургу и изучить город. Так ему и пришла мысль устроиться велокурьером в UberEats. Что может быть лучше, чем все лето целыми днями ездить на велосипеде, открывать для себя новый город, да еще и зарабатывать на этом? Это была прекрасная временная работа.
Проблема питтсбургских холмов
Армин – прекрасный рассказчик. Основные моменты в своих историях он щедро сдабривает мелкими подробностями. Он рассказал мне, какой была работа с черным ящиком вместо начальника: обесчеловечивающей, унизительной, раздражающей. Это была работа с фальшивым чувством автономии.
«Взять хотя бы мой первый опыт», – сказал он. В июле 2020 года, когда он попытался зарегистрироваться в качестве курьера UberEats, приложение потребовало, чтобы он прошел алгоритмическую проверку личности. Ему нужно было сделать селфи, которое затем анализировалось встроенной в приложение системой распознавания лиц, разработанной Microsoft. Но ничего не вышло. Армин снимал одну фотографию за другой, но приложение отклоняло снимки, заявляя, что не может подтвердить его личность. «Я знаю, что небелые люди часто сталкиваются с такими проблемами. Может, дело было в моей объемной прическе, а может, в густой бороде, но в алгоритме была какая-то ошибка, – вспоминает он. – Я пытался три раза».
На четвертый раз он помыл голову, уложил волосы и приоткрыл рот, чтобы алгоритм разглядел губы в его темной бороде, и программа наконец его узнала. Ему разрешили начать работу, но у него уже возникло знакомое ему навязчивое чувство несправедливости.
На следующий день, когда он вышел на работу, проблемы посыпались одна за другой. Он получил несколько заказов на бургеры и «хэппи-милы» из «Макдоналдса», который закрылся несколько месяцев назад. Клиенты понятия не имели, что в Uber просто не удалили его из базы данных. «Подозреваю, остальные курьеры просто поняли, что заказы из этого “Макдоналдса” нужно отклонять, но я сорок пять минут пытался убедить Uber убрать его из системы. Мне сказали: “Мы не можем изменить данные в системе, но можем заплатить вам два доллара за поездку”. Я двадцать минут туда добирался и сорок пять минут говорил с ними по телефону, а мне за это дали два доллара».
Армин не мог смириться с тем, что ему не удалось поговорить с человеком, способным вносить простые изменения в систему. Особенно досадно ему было потому, что он как программист прекрасно знал, как просто исправить эту ошибку. Но никого больше это не волновало, поскольку люди считали, что программа не вознаграждает ответственность и честность. Алгоритм ценил скорость и максимизацию по времени. В итоге Армину, как и другим курьерам, пришлось просто отклонять заказы из этого «Макдоналдса», чтобы справиться с алгоритмом распределения задач.
Работать на нелогичную систему, которую невозможно исправить, и не иметь начальника, которому можно пожаловаться, было Армину не по душе. Всего через три недели, совершив двадцать одну поездку, он решил уволиться. За шесть лет в технологической сфере он скопил достаточно денег, а работа в UberEats не приносила ему удовольствия. Армин не зависел от этого дохода и понимал, что находится в привилегированном положении. «Если это твой главный источник дохода, а на решение проблемы по телефону уходит час, тебе просто нет смысла тратить силы на борьбу», – сказал он.
Кроме того, Армин обнаружил, что наиболее уязвимым сотрудникам,
