Война и еще 25 сценариев конца света. Алексей Турчин

поколениям бесконечно большую ценность, чем будущим, и направить все свои ресурсы на создание машины времени – потому что, как бы ни были малы шансы на успех в этом предприятии, по его целевой функции оно будет перевешивать пользу нынешних поколений. При этом такой «взбунтовавшийся» ИИ будет защищать свою целевую функцию от изменения людьми.

      Примечания

      1

      К каждой главе я приложу список из трех-пяти наиболее интересных работ по данной теме, которые стоит почитать; но это не полный список: заинтересовавшиеся читатели без труда найдут более полный список работ в Интернете.

      2

      Nick Bostrom. Antropic principle in science and philosophy. L. 2003Nick Bostrom. Antropic principle in science and philosophy. L. 2003

      3

      «No trade theorem» гласит: вы не должны торговать на рынке, даже если имеете для этого возможность, так как тот факт, что кто-то другой желает занять противоположную вам сторону в сделке, является наилучшим доказательством, что его информация о ситуации так же хороша, как и ваша. См. подробнее: http://www.overcomingbias.com/2008/02/buy-now-or-fore.html#comments

      4

      Simmons M.R. Twilight in the desert: the coming Saudi oil shock and the World economy. NY, 2005.

      5

      «By demonstrating that their simulation is realistic, the researchers say, these results suggest that an entire mammal brain could be completely modeled within three years, and a human brain within the next decade». http://www.tech-nologyreview.com/Biotech/19767/

      6

      Русский перевод статьи доступен здесь: http://mikeai.nm.ru/russian/superint.html. Опубликовано здесь: Int. Journal of Future Studies, 1998, vol. 2.

      7

      «Larry page, Google look into AI». http://www.webpronews.com/top-news/2007/02/19/larry-page-google-look-into-ai

      8

      http://www.agiri.org/wiki/index.php?title=Novamente_Cognition_Engine

      9

      http://www.singinst.org/blog/2007/07/31/siai-why-we-exist-and-our-short-term-research-program/

      10

      http://www.numenta.com/about-numenta/numenta-technology.php

      11

      http://www.opencyc.org/

      12

      http://www.adaptiveai.com/

      13

      http://wwwgenetic-programming.com/humancompetitive.html. На русском языке можно прочитать в журнале «В мире науки», 2003, № 6. Пересказ статьи в Интернете: http://wwwcirota.ru/forum/viewphp?subj=58515