усугубляет неравенство».
Приложение UberCheats показало изнанку алгоритмов, лежащих в основе приложений для работы от случая к случаю. Обычно эту информацию тщательно скрывают от глаз работников. Очевидные ошибки при расчете расстояний подтверждали подозрения: алгоритмы не учитывают такие человеческие факторы, как непредвиденные задержки, удлинения маршрута из-за жутких пробок, погодные условия, дорожные работы и переполненные рестораны, где курьерам приходится долго ждать заказ.
В материальном отношении эти задержки влияют только на работников: из-за них снижается рейтинг и увеличивается время выполнения заказов, что в итоге негативно сказывается на возможности курьеров получать заказы и оплату за них. Армин так и не смог понять, почему возникает эта ошибка. «Все теории, которые я строил, опровергались, – сказал он, – поэтому мне стало казаться, что это нелогично и несправедливо». Приложение казалось работникам таким же, как и вся система, основанная на ИИ: своевольным, самовластным и не несущим никакой ответственности.
В феврале 2021 года, через несколько месяцев после создания UberCheats, юристы Uber подали жалобу на приложение и потребовали от Google заблокировать его в браузере Chrome, поскольку люди могут перепутать его с настоящим продуктом Uber{121}. Их требования были удовлетворены, но Армин отправил в Google, которая сама решает, какие приложения предлагать в своем браузере, несколько писем, и приложение снова появилось в библиотеке. Однако в феврале 2022 года Армин его удалил. Хотя оно явно приносило пользу сотням курьеров и водителей Uber, которые проверяли, справедливо ли вознаграждается их труд, Армину было сложно и дальше поддерживать приложение, одновременно занимаясь другими проектами. Каждый раз, когда программисты Uber вносили изменения в свой код, Армину приходилось тратить по несколько часов на обновление программы, а изменения случались часто и без всяких объяснений со стороны компании. Некоторые курьеры и водители сообщали Армину, что поднимали вопрос о недоплатах и получали от компании компенсации, но Армин не имел ни финансовых возможностей, ни желания судиться с Uber. Он считал, что приложение уже исполнило свое предназначение и пролило свет на непредсказуемость алгоритма и неподотчетность компании. История Армина широко освещалась в прессе, от журналов WIRED и Salon до газеты Daily Mail. Она помогла людям понять, насколько непрозрачны рабочие платформы, созданные на базе ИИ.
«Во всех компаниях, где я работал, я находил способ сделать так, чтобы меня услышали. Проблем не избежать, но я всегда могу попытаться их решить. В случае с Uber я чувствую себя беспомощным, поскольку это не в моих силах, – говорит Армин. – Когда используются непонятные закономерности, когда тебе недоплачивают по двадцать пять центов за поездку, я никак не могу узнать, почему это происходит. И жаловаться мне некому – может, разве что прессе? Приложение UberCheats было создано для того, чтобы взять ситуацию под контроль. В противном случае у любого опустятся руки».
История Армина показывает, с чем сталкивается человек, работающий в автоматизированной системе: он испытывает досаду и страдает от паранойи, ему не хватает ощущения товарищества с коллегами и чувства локтя, и он при этом не может ничего изменить. Таков парадокс структуры, которая полностью зависит от работы людей, но обращается со своими сотрудниками, как с роботами.
И случай Армина не уникален. Работая в Uber, он был частью мирового прекариата – нового класса людей, чей доход не гарантирован и нестабилен и чьи работодатели контролируют их жизнь даже за пределами работы{122}. В одной группе с ними находятся специалисты по разметке данных из Болгарии и Найроби, которые едва сводят концы с концами, обучая системы ИИ, чтобы они впоследствии приносили миллиарды долларов создавшим их компаниям, и сотрудники ASHA из Индии, которые собирают данные о здоровье населения для западных корпораций.
Кафкианский лабиринт
В одном из самых знаменитых романов Франца Кафки «Процесс» героя по имени Йозеф К. арестовывают загадочные агенты, которые не говорят ему, в чем состоит его преступление. Его не сажают в тюрьму. Вместо этого он обречен влачить жалкое существование, страдая от паранойи и пребывая в неведении о сути своего предполагаемого проступка. Пытаясь разобраться, что же он сделал, Йозеф К. попадает в ряд кошмарных ситуаций, после чего у него опускаются руки. В конце концов однажды утром всё те же таинственные агенты казнят его прямо возле его дома.
«Процесс» – черная антиутопическая комедия, в которой изощренным образом высмеивается бессмысленность бюрократии. Но эта книга вполне могла быть написана о современных работниках алгоритмического века – например, о человеке, без предупреждения отстраненном от работы по прихоти ИИ-системы.
Александру Ифтимие – румынский иммигрант, живущий в юго-западном пригороде Лондона. Он давно работает водителем Uber и не читал Кафку, но когда я пересказала ему сюжет романа, он узнал в Йозефе К. себя. Он считает, что для описания работы алгоритмов лучше всего подходит фраза divide et impera, «разделяй и властвуй», поскольку именно такую тактику контроля применяют диктаторы и колониалисты, например Британская империя в Индии XIX века. По словам Александру, благодаря этому компании вроде Uber добиваются того, чтобы десятки тысяч водителей не протестовали под окнами их офисов.
Александру не всегда был циником. Раньше он работал ночным курьером в транспортной компании, но всякий раз, когда ему случалось взять выходной посреди шестидневной рабочей недели, над ним нависала угроза лишиться своего маршрута, поэтому он уволился и пришел в Uber. Компания, которая предоставляла услуги попутного извоза, обещала ему гибкий график и контроль над своим рабочим временем, что было весьма привлекательно. Поначалу это позволило Александру расслабиться. Он совершил в Uber почти 7 тысяч поездок, зарабатывая приличные деньги и поддерживая пятизвездочный рейтинг – как он сам считает, благодаря многолетнему опыту работы продавцом в Бухаресте. Слыша жалобы других водителей, которые утверждали, что Uber обращается с ними несправедливо, например увольняет или без причины лишает лицензии, он считал, что не все так однозначно. Он был уверен, что водители сами в чем-то провинились.
Но через пару лет Александру начал замечать, что алгоритм обращается с водителями по-разному. Его близкий друг работал на Uber в тех же районах, что и он, и иногда, оказываясь рядом, они брали кофе и садились поболтать на залитой солнцем улице. Часто его другу приходило по несколько запросов на поездки подряд, а сам Александру не получал ни одного. Иногда бывало и наоборот. Предполагалось, что заказы уходят к ближайшим из доступных водителей, но оказалось, что на самом деле это не так. Они выяснили, что автоматизированная программа использует профили водителей, созданные из облака неизвестных переменных, чтобы в реальном времени назначать одного из них на заказ. Александру обнаружил, что весьма неприятно, когда тебя
