Конец индивидуума. Путешествие философа в страну искусственного интеллекта. Гаспар Кёниг

так называемое recursive self improvement, «рекурсивное самоулучшение».

      40

      В математике синглетон – это множество, состоящее из единственного элемента. В этом случае автор подразумевает то, что также можно назвать «абсолютом». – Прим. ред.

      41

      Это так называемая symbol grounding problem, «проблема обоснования символов»: ИИ не может закрепить символы, постоянно производимые им, в соответствующей реальности. Как и в эксперименте с «китайской комнатой», он сталкивается с неспособностью произвести смысл.

      42

      Бостром называет это «извращенным исполнением», тогда как философы ИИ описывают эту проблему в целом термином «упорядочивание целей».

      43

      Это так называемая moral rightness model.

      44

      Особенно в этом захватывающем дух пассаже: «Можно предположить, что медлительность и нерешительность прогресса человечества в деле решения многих „вечных проблем“ философии обусловлена непригодностью коры головного мозга человека для философской работы» (sic!).

      45

      Тегмарк доводит эту иллюзию до конца, предлагая понятие «substrate independence», «независимость от субстрата»: наше сознание, получается, является простым устройством, сетью, независимой от всякого материального субстрата, а потому может воспроизводиться в бесконечном числе форм.

      46

      См., например: Jirak D. et al. Grasping Language – A Short Story on Embodiment // Consciousness and Cognition. 2010. Vol. 19. № 3.

      47

      См. особенно его последнюю работу: Damasio A. L’Ordre étrange des choses. Odile Jacob, 2017.

      48

      Damasio A. Spinoza avait raison. Odile Jacob, 2014.

      49

      Спиноза Б. Этика. Часть 2. Теорема 7. Схолия // Его же. Сочинения в 2‐х т. СПб.: Наука, 1997. Т. 1. С. 294.

      50

      См. основополагающую статью по этому вопросу: Bonnefon J.-F., Shariff A., Rahwan I. The Social Dilemma of Autonomous Vehicles // Science. 2016. Vol. 352. № 6293.

      51

      В духе старой «проблемы вагонетки», сформулированной Филиппой Фут в 1960‐х годах.

      52

      Это знаменитая «сложная проблема сознания», поставленная философом Дэвидом Чалмерсом, для которой пока не найдено общего решения.

      53

      Спиноза Б. Этика. Часть 2. Теорема 27 // Собрание сочинений в 2‐х т. Т. 1. С. 311.

      54

      Kurzweil R. How to Create a Mind. Viking, 2012.

      55

      Здесь я воспроизвожу делёзовскую интерпретацию, представленную, в частности, в его работе «Спиноза: практическая философия».

      56

      Спиноза Б. Этика. Часть 3. Теорема 2. С. 339.

      57

      См.: Hoffmann M., Pfeifer R. The Implications of Embodiment for Behavior and Cognition: Animal and Robotic Case Studies // Implications of Embodiment / ed. by W. Tschacher, C. Bergomi. Imprint Academic, 2012.

      58

      URL: https://www.ibmbigdatahub.com/blog/embodied-cognitionfuture-ai.

      59

      Делёз Ж. Логика смысла. Серия 12. «О парадоксе».

      60

      Эта встреча основана на «Рассуждении о методе», «Трактате о человеке» и «Страстях души».