Совместимость.
800
См. Mikolov et al., Efficient Estimation of Word Representations in Vector Space.
801
Tversky, Features of Similarity.
802
См. Chen, Peterson, and Griffiths, Evaluating Vector-Space Models of Analogy.
803
О возможности криминогенного эффекта лишения свободы см. обсуждение в Stemen, The Prison Paradox (в особенности, сноска 23) и Roodman, Aftereffects.
804
См. Jung et al., Eliciting and Enforcing Subjective Individual Fairness.
805
См. Poursabzi-Sangdeh et al., Manipulating and Measuring Model Interpretability.
806
Bryson, Six Kinds of Explanation for AI. В этой статье говорится, что «объяснения» в контексте ИИ должны включать не только внутреннюю работу системы, но и «действия людей, ведущие к тому, что система реализуется и продается как продукт и/или управляется как услуга».
807
См. Ghorbani, Abid, and Zou, Interpretation of Neural Networks Is Fragile.
808
См. Mercier and Sperber, Why Do Humans Reason? Интригующее направление исследования выравнивания ИИ связано с разработкой систем машинного обучения, способных участвовать в спорах друг с другом; см. Irving, Christiano, and Amodei, AI Safety via Debate.
809
Идея обучения с подкреплением, избегающего непоправимых ошибок, является активной областью исследований; см. Saunders et al., Trial Without Error и Eysenbach et al., Leave No Trace.
810
См. Omohundro, The Basic AI Drives. См. также роман канадской писательницы Люси Мод Монтгомери об Энн из Зеленых мезонинов «Рилла из Инглсайда» (1921), где Рилла размышляет: «Я не хочу возвращаться и снова становиться той девочкой, какой я была два года назад. Даже если бы я могла… И все‐таки… Когда пройдет еще два года я могу оглянуться и сказать спасибо за тот путь, который я прошла за это время, но сейчас я этого не хочу». Мисс Оливер отвечает ей: «Мы никогда не хотим. Именно поэтому мы и не выбираем, каким образом будем развиваться».
811
См. Paul, Transformative Experience.
812
Дилемма заключенного – фундаментальная проблема теории игр, согласно которой рациональные игроки не всегда будут сотрудничать друг с другом, даже если это в их интересах. Предполагается, что игрок («заключенный») максимизирует свой собственный выигрыш, не заботясь о выгоде других. – Прим. пер.
813
Над подобными проблемами работает подраздел «многоагентного обучения с подкреплением». См. Foerster et al., Learning to Communicate with Deep Multi-Agent Reinforcement Learning и Foerster et al., Learning with Opponent-Learning Awareness.
814
Piaget, The Construction of Reality in the Child.
815
Американский почетный профессор медицины и создатель «Клиники снижения стресса» и «Центра осознанности в медицине, здравоохранении и обществе» при Медицинской школе Массачусетского университета. – Прим. пер.
816
Demski and Garrabrant, Embedded Agency.
817
См. Evans, Stuhlmuller, and Goodman, Learning the Preferences of Ignorant, Inconsistent Agents, Evans and Goodman, Learning the Preferences of Bounded Agents и Bourgin et al., Cognitive Model Priors for Predicting Human Decisions.
818
См. Ziebart et al., Maximum Entropy Inverse Reinforcement Learning и Ziebart, Bagnell, and Dey, Modeling Interaction via the Principle of Maximum Causal Entropy. Более современные работы по робототехнике и автономным автомобилям используют ту же самую модель поведения людей, на которую иногда ссылаются как на «шумно рациональное» поведение или «(ир)рациональность Больцмана». См. Finn, Levine, and Abbeel, Guided Cost Learning, Sadigh et al., Planning for Autonomous Cars That Leverage Effects on Human Actions и Kwon et al., When Humans Aren’t Optimal.
819
Как заключает Стюарт Рассел в оригинальной статье 1998 года, «можем ли мы вывести функцию вознаграждения из наблюдения во время обучения, а не после него?» Russell, Learning Agents for Uncertain Environments (Extended Abstract).
820
Этот вопрос остается открытым. Последние работы см. Chan et al., The Assistive Multi-Armed Bandit.
821
Смита Милли и Анка Драган из Беркли исследовали этот вопрос; см. Milli and Drăgan, Literal or Pedagogic Human?
822
Интервью Ариэля Конна со Стефано Эрмоном, Институт будущего жизни, 26 января 2017, https://futureoflife.org/2017/01/26/stefano-ermon-interview/.
823
Интервью Ариэля Конна с Романом Ямпольски, Институт будущего жизни, 18 января 2017, https://futureoflife.org/2017/01/18/roman-yampolskiy-interview/.
824
См. Arrow, A Difficulty in the Concept of Social Welfare.
825
См. также Recht et al., Do ImageNet Classifiers Generalize to ImageNet? Авторы пытаются воспроизвести точность таких систем распознавания образов, как AlexNet и другие, используя новые фотографии, и все время получают устойчивый разрыв, что наводит исследователей на мысль о том, что неважно, насколько близко они пытались повторить первоначальные CIFAR‐10 и методологию ImageNet, сами изображения и сделанные людьми метки в 2019 году неизбежно отличаются от того, что было, скажем, в 2012‐м.
826
Latour, Pandora’s Hope.
827
См. Paul Christiano, What Failure Looks Like, AI Alignment Forum, 17 марта 2019, https://www.alignmentforum.org/posts/HBxe6wdjxK239zajf/what-failure-looks-like. «Стереотипное представление о катастрофе с ИИ включает в себя злобную, могущественную систему искусственного интеллекта, которая застает своих создателей врасплох и быстро добивается решительного преимущества над всем человечеством. Полагаю, наше поражение будет выглядеть совсем иначе», – пишет Кристиано. Его больше беспокоит, что «машинное обучение повысит нашу способность «пользоваться тем, что мы можем измерить», что может стать причиной медленно надвигающейся катастрофы».
828
Немецко-американский философ, политический теоретик и историк, основоположница теории тоталитаризма. – Прим. пер.
829
National Transportation Safety Board, 2019. Collison Between Vehicle Controlled by Developmental Automated Driving System and Pedestrian. Highway Accident Report NTSB/HAR- 19/03. Washington, DC.
830
См. Odell, How to Do Nothing.
831
Read, The Grass Roots of Art.
832
Turing et al., Can Automatic Calculating Machines Be Said to Think?
833
McCulloch, Finality and Form.
