Новые законы робототехники. Апология человеческих знаний в эпоху искусственного интеллекта. Фрэнк Паскуале

меняют баланс машин и людей и даже распорядок нашей повседневной жизни.

      Предотвращение худших исходов революции искусственного интеллекта (ИИ) и в то же время реализация его потенциала будут зависеть от нашей способности выработать мудрое отношение к такому балансу. Для достижения такой цели в этой книге выдвигаются три аргумента, которые должны привести к улучшению нашей жизни. Первый аргумент эмпирический: непосредственно сейчас ИИ и роботы чаще всего дополняют, а не заменяют человеческий труд. Второй имеет ценностный характер: во многих областях мы должны сохранить такое положение вещей. Наконец, третий аргумент содержит политическое суждение: наши институты управления действительно способны достичь именно такого результата. Вот главный посыл этой книги: сегодня у нас есть средства руководить развитием технологий автоматизации, не становясь ее пленниками и не меняясь под их воздействием.

      Эти идеи многим покажутся самоочевидными. Зачем писать в их защиту целую книгу? Дело в том, что из них следуют довольно интересные выводы, которые должны изменить способы организации социального сотрудничества и урегулирования конфликтов. Например, в настоящее время во многих странах приоритет отдается капиталу, а не труду, потребителям, а не производителям. Если мы хотим построить справедливое и стабильное общество, эти перекосы должны быть исправлены.

      Исправить их будет непросто. Появившиеся за последнее время в избытке консультанты по менеджменту рассказывают одну простую историю о будущем труда: если машина может записать и воспроизвести то, что вы делаете, она вас заменит[1]. Эта перспектива массовой безработицы приковывает к себе внимание политиков и стратегов. Согласно этой теории, люди-работники становятся излишними в силу развития все более мощного программного обеспечения, роботов и предсказательной аналитики. Предполагается, что стоит только поставить достаточно камер и сенсоров, и менеджеры смогут создать симуляцию – вашего «цифрового двойника», то есть голограмму или робота, который будет выполнять работу человека не хуже, к тому же лишь за небольшую долю его зарплаты. Это представление задает суровую альтернативу: делайте роботов, или они заменят вас[2].

      Но возможна и другая история, которая на самом деле более правдоподобна. Практически во всех областях роботизированные системы могут повысить ценность труда, а не уменьшить ее. В этой книге рассказывается о врачах, медсестрах, учителях, сиделках, журналистах и представителях иных профессий, которые работают вместе со специалистами по робототехнике и компьютерным наукам, но не служат источниками данных для своей будущей замены. Их сотрудничество предвосхищает то технологическое развитие, результатом которого могут стать более качественные здравоохранение, образование, более высокий уровень жизни для всех нас, в то же время позволяющий сохранить осмысленный труд. Также они показывают, как право и публичная политика способны помочь нам в достижении мира и инклюзивного процветания, а не «гонки против машин»[3]. Но мы можем добиться этого только в том случае, если обновим законы робототехники, которыми определяется наше представление о технологическом прогрессе.

      Законы робототехники Азимова

      В рассказе 1942 г. «Хоровод» писатель-фантаст Айзек Азимов определил три закона для машин, которые могут воспринимать среду, обрабатывать информацию, а потом действовать[4]. В рассказе приводится выдержка из 56-го издания «Руководства по робототехнике» за 2058 г.:

      1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.

      2. Робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат первому закону.

      3. Робот должен заботиться о своей безопасности в той мере, в какой это не противоречит первому и второму законам.

      Законы робототехники Азимова были крайне популярными. Они кажутся совершенно ясными, но применять их непросто. Может ли автономный дрон нанести удар по террористической ячейке? Первая часть первого закона («Робот не может причинить вред человеку») вроде бы запрещает такое действие. Но военный может тут же отослать ко второй половине первого закона (запрещающей «бездействие», которое «допустит, чтобы человеку был причинен вред»). Чтобы определить, какую часть закона следует применять, нам понадобилось бы обратиться к другим ценностям[5].

      Полем боя двусмысленности не исчерпываются. Рассмотрим, например, допускают ли законы Азимова существование автомобилей-роботов. Беспилотные транспортные средства обещают избавить нас от тысяч несчастных случаев на дорогах, происходящих ежегодно. Поэтому на первый взгляд ответ очевиден. С другой стороны, тысячи оплачиваемых водителей останутся без работы. Позволяет ли этот ущерб государству запретить или замедлить развитие беспилотных автомобилей? Три закона Азимова не способны предельно конкретно решить такие вопросы. Не объясняют они и то, как быть с недавним требованием защитников беспилотных автомобилей, которые заявили,

1

Полезный обзор максималистских предсказаний дает Кевин Драм, который приходит к выводу, что «какую бы работу ни назвать, роботы смогут ее делать». См.: Kevin Drum, “You Will Lose Your Job to a Robot – and Sooner Than You Think,” Mother Jones, November/ December 2017, at https://www.motherjones.com/politics/2017/1o/ you-will-lose-your-job-to-a-robot-and-sooner-than-you-think/.

2

Экономические смыслы этого нарратива подробно рассматриваются в следующих книгах: Мартин Форд, Роботы наступают: развитие технологий и будущее без работы (Москва: Альпина нон-фикшн, 2016); Jerry Kaplan, Humans Xeed.Not Apply: A Guide to Wealth and Work in the Age of Artificial Intelligence (New Haven: Yale University Press, 2015); Robin Hanson, The Age of Em: Work, Love, and Life When Robots Rule the Earth (Oxford: Oxford University Press, 2016).

3

Eric Brynjolffson and Andrew McAfee, Race against the Machine: How the Digital Revolution Is Accelerating Innovation, Driving Productivity, and Irreversibly Transforming Employment and the Economy (Lexington, MA: Digital Frontier Press, 2014).

4

Айзек Азимов, Хоровод, Чёрный столб (Москва: Знание, 1963). Позже Азимов ввел метапринцип, который он назвал нулевым законом робототехники (утверждающим, что люди не должны вредить человечеству). См.: Айзек Азимов, Миры Азейка Азимова. Кн. 8. Роботы и империя (Рига: Полярис, 1994). Isaac Asimov, Robots and Empire (New York: Doubleday, 1985), 312.

5

Jack Balkin, “The Three Laws of Robotics in the Age of Big Data,” Ohio State Law Journal 78 (2017): 1, 10. К чести Азимова следует отметить, что он вполне понимал эти двусмысленности и использовал их для создания драматического эффекта в своих рассказах.