держат в неведении. Он хотел бы знать, по каким критериям его оценивают, чтобы повысить свои показатели и получать больше работы. Почему компания могла использовать эти данные, чтобы улучшать
свой бизнес, а ему не разрешалось с их помощью улучшить свои дела?
Когда через несколько месяцев Александру получил от Uber автоматизированное предупреждение о подозрении в мошенничестве, он просто проигнорировал его, решив, что случилась ошибка. Через две недели он получил второе предупреждение. После трех предупреждений его могли отстранить от работы. Об этих решениях ему сообщали только в автоматизированных письмах. Ему не говорили, к кому обратиться, чтобы обжаловать решение или получить его обоснование.
Он понятия не имел, что мог сделать не так. Он знал, что Uber, как и многие другие компании гигономики, использует программы на основе искусственного интеллекта – от алгоритмов для выявления мошенничества до систем распознавания лиц и других методов профилирования, – чтобы распределять заказы и проверять, оценивать и наказывать водителей. Но Александру не знал, какие аспекты его работы отслеживались и учитывались алгоритмами и какие его действия или данные можно было счесть недобросовестными или обманными. Что программа считала мошенничеством?
Ему оставалось лишь гадать, с чем связано решение непостижимой компьютерной системы. Может, дело в том, что одна пассажирка опаздывала и потому попросила высадить ее немного в другом месте? Он согласился, пожалев ее, но вдруг алгоритм счел это мошенничеством? А может, проблема возникла в тот раз, когда на шоссе случилась авария и он потратил больше часа на объезд? Он просто этого не знал.
Александру позвонил в службу поддержки Uber для водителей, но сотрудник на другом конце линии понимал не больше его самого. «Мне твердили: “Система не может ошибиться. Что именно вы сделали?” Я отвечал: “Именно это и я хочу у вас узнать”».
Он мог либо с ужасом ждать сообщения об отстранении от работы, либо обратиться со своей проблемой в профсоюз. Алгоритмический метод подбора работ и определения оплаты в каждом индивидуальном случае настраивал водителей друг против друга, убеждая их, что каждый работник – лишь отдельный винтик, а не часть гораздо более крупного сообщества людей, которые вместе борются с компьютерной системой. Из-за этого Александру чувствовал себя беспомощным, словно у него не было надежды победить. У него не было коллектива, на который можно опереться.
Он решил обратиться в британский Профсоюз водителей и курьеров, работающих через приложения, – общество гиг-работников вроде Александру, основанное бывшим водителем Uber Джеймсом Фарраром. Профсоюз занялся его случаем и потребовал от Uber объяснить, почему водителю были вынесены предупреждения, и отменить их. Пока вопрос решался, Александру перестал брать заказы в приложении Uber. Он сохранил аккаунт, но слишком боялся навсегда лишиться доступа к системе. Вместо этого он вернулся на прошлую работу и взял дополнительные смены в качестве ночного курьера.
В октябре – через три месяца после первого обвинения в мошенничестве – он получил от Uber письмо с извинениями, в котором утверждалось, что автоматизированная система допустила ошибку{123}. Метку о мошенничестве сняли, но никаких объяснений ему не предоставили. Сотрудники Uber сказали, что действительно используют автоматизированные алгоритмы для выявления мошенничества, но решения об отстранении водителей принимают люди, изучающие отчеты системы. Проблема была решена, но Александру не успокоился: он боялся, что однажды ситуация повторится.
«Они используют программу на основе искусственного интеллекта как отдел кадров для водителей. Система может отстранить тебя от работы, может разорвать твой контракт с Uber, может лишить тебя лицензии, – говорит он. – Это опасно».
Александру решил бороться с несправедливостью более традиционным, чем Армин, способом: он подал на Uber в суд, потребовав открыть ему доступ к его персональным данным и обеспечить прозрачность алгоритмов для расчета вознаграждения водителей. Он хотел понять, в чем именно алгоритм ошибся в его случае и что было сделано, чтобы избежать такой ошибки в будущем. Он вошел в группу из пяти заявителей, представляемых профсоюзом и подавших к Uber и еще одному транспортному агрегатору Ola Cabs иск с требованием предоставить им доступ к их персональным данным – особенно если их используют в качестве обоснования для отстранений и штрафов.
Дело рассматривалось в Амстердаме, где находится европейская штаб-квартира Uber, и решение суда стало новым словом в сфере прав работников, которые работают в подчинении у алгоритмов.
В деле против Ola Cabs амстердамский суд счел, что компания использовала полностью автоматизированную систему, чтобы делать вычеты из заработка водителей, а это противоречит законодательству о защите данных, которое наделяет людей правом на то, чтобы принимаемые алгоритмами решения проверял человек{124}.
Что касается Uber, суд обязал компанию предоставить истцам их персональные данные, имеющиеся в распоряжении у компании, – в частности, информацию, на основании которой водителей отстраняли от работы. В дополнение к этому Uber обязали предоставить водителям доступ к обезличенным индивидуальным оценкам их работы, хотя обычно им показывали только среднюю оценку за несколько поездок.
При этом суд встал на сторону компании в вопросе о прозрачности алгоритмов. Uber не пришлось раскрывать информацию о том, как именно производится расчет цен и как водители получают метку о подозрении в мошенничестве. Суд также отклонил утверждение истцов о том, что сотрудники Uber в должной мере не контролируют процессы распределения заказов и отстранения водителей от работы.
Это решение стало одной из первых юридических трактовок сложной серой зоны во взаимодействии искусственного интеллекта с человеком и важным шагом к прояснению нюансов того, какие права имеют гиг-работники. Однако, на мой взгляд, сами работники при этом не стали свободнее и самостоятельнее. Не имея доступа к расчетам систем машинного обучения, которые использует Uber, честные водители непременно должны были рано или поздно снова стать жертвами их ошибок.
Александру так и не понял, что спровоцировало предупреждение о мошенничестве. «Это все равно что найти на столе выговор от начальника, с которым невозможно связаться, а если постучаться к нему в дверь, он все равно не скажет, в чем проблема, – говорит он. – Ты чувствуешь себя мишенью, чувствуешь, что тебя дискриминируют».
Он продолжает работать в Uber на условиях компании, хотя состоит в профсоюзе и отстаивает свои права на доступ к данным в суде – и среди прочего запрашивает более полную информацию о своей работе. Пока он учится на юриста, этот заработок – основной источник дохода для всей его семьи, включая новорожденную дочь.
«Жизнь продолжается, – говорит он, рассуждая о будущем. – Надо продолжать работать. Ты просто человек, который сидит в машине и ждет, когда телефон наконец звякнет и скажет, куда тебе ехать».
* * *
Дэвида Мванги Туо
