Алгоритм судного дня. Как Facebook, Google, Microsoft, Apple и другие корпорации создают искусственный суперинтеллект и почему это приведет к катастрофе. Эми Уэбб

Рассуждать, таким образом, то же самое, что складывать или вычитать»[14]. Но как нам узнать, обладаем ли мы при этом свободной волей?

      В то время, когда Гоббс работал над первой частью своей трилогии, французский философ Рене Декарт опубликовал книгу «Размышления о первой философии», в которой задавался вопросом, как мы можем знать наверняка, что данный нам в ощущениях мир реален. Как можем мы проверить собственное сознание? Какое доказательство могло бы убедить нас, что наши мысли действительно принадлежат нам, а мир вокруг нас реален? Декарт был рационалистом, верившим, что факты могут быть получены путем дедукции. Он предложил знаменитый мысленный эксперимент. Он предложил читателям представить себе демона, якобы создающего иллюзию окружающего нас мира. Если бы физический, чувственный опыт читательницы, сообщающий ей, что она плавает в озере, был бы всего лишь наведен демоном, она не могла бы действительно знать, что плавает. Но с точки зрения Декарта, если читатель осознает свое существование, значит, он отвечает критериям знания. «Всякий раз, как я произношу слова Я есмь, я существую или воспринимаю это изречение умом, оно по необходимости будет истинным»[15], – писал он[16]. Другими словами, факт нашего существования не подлежит сомнению, даже если между нами и реальностью находится вводящий нас в заблуждение демон. Или же «я мыслю, следовательно, существую».

      Позже в своем «Трактате о человеке» Декарт утверждал, что люди, вероятно, могли бы изготовить автомат в виде небольшого животного, который был бы неотличим от своего прототипа. Но даже если когда-нибудь нам удалось бы создать механического человека, его никогда нельзя будет спутать с настоящим, утверждал Декарт, поскольку у него не будет разума и, следовательно, души. В отличие от людей, машина никогда не сможет соответствовать критериям знания – она никогда не сможет осознавать себя, как это делаем мы. Для Декарта сознание находилось внутри нас – душа была духом, оживляющим машину нашего тела[17].

      Несколькими десятилетиями позже немецкий математик и философ Готфрид Вильгельм фон Лейбниц рассматривал идею, что человеческая душа сама по себе запрограммирована, и утверждал, что при этом человеческий ум оказывается контейнером. Бог создал душу и тело так, чтобы они естественным образом сосуществовали в гармонии. Тело, разумеется, сложная машина, но оно едино с набором божественных инструкций. Наши руки движутся, когда мы захотим, но не мы изобрели механизмы, делающие движение возможным. Если мы осознаем боль или удовольствие, эти ощущения – результат работы заранее запрограммированной системы, непрерывной связи между разумом и телом.

      Лейбниц предложил собственный мысленный эксперимент, иллюстрирующий его положение, что мысль и чувства неотделимы от человеческой природы. Представьте себе, что вы заходите на мельницу. Здание – это контейнер, заключающий в себе машины, сырье и рабочих. Это сложная

14

“AMA: We Are the Google Brain Team. We’d Love to Answer Your Questions about Machine Learning,” Reddit, August 4, 2016, https://www. reddit.com/r/MachineLearning/comments/4w6tsv/ama_we_are_the_ google_brain_team_wed_love_to/.

15

Декарт Р. Сочинения в 2 томах. Т. 1. М., Мысль, 1989. Цит. по: https://nibiryukov.mgimo.ru/nb_russian/nbr_teaching/nbr_teach_library/nbr_library_classics/nbr_classics_descartes_meditationes_de_prima_ philosophia.htm. Пример с читательницей, плавающей в озере, добавлен автором. – Прим. пер.

16

René Descartes, Meditations on First Philosophy, Second Meditation § 25, 1641, University of Connecticut, http://selfpace.uconn.edu/class/percep/ DescartesMeditations.pdf.

17

René Descartes, Treatise of Man, trans. T. S. Hall (Cambridge, MA: Harvard University Press, 1972).