Алгоритм судного дня. Как Facebook, Google, Microsoft, Apple и другие корпорации создают искусственный суперинтеллект и почему это приведет к катастрофе. Эми Уэбб

Баха, Антонио Вивальди и Генри Перселла, творивших с середины XVII до середины XVIII века. В их музыке можно услышать следы работ еще более ранних композиторов, таких как Якоб Аркадельт, Жан Мутон и Йоханнес Окегем. Те, в свою очередь, испытывали влияние композиторов самого раннего Средневековья – и цепочку можно проследить дальше, до самой первой записанной композиции, так называемой Сейкилосской эпитафии, выбитой на мраморном столбе, который был обнаружен на территории современной Турции и когда-то служил надгробным памятником. Можно углубляться и дальше в прошлое, к тем временам, когда были изготовлены первые примитивные флейты из костей животных и слоновой кости – то есть примерно 43 000 лет назад. Ученые полагают, что и в более ранние времена наши предки пели, прежде чем начать говорить[11].

      Человеческое мышление представляет собой результат миллионов лет эволюции. Подобным же образом мышление современного ИИ опирается на долгий эволюционный процесс, начинающийся со времен математиков, философов и ученых древности. Хотя может показаться, что человечество и царство машин всегда шли разными путями, на самом деле наше развитие было взаимосвязано. Homo sapiens извлекал уроки из окружающей его среды, передавал нужные привычки последущим поколениям, приобретал все большее разнообразие и размножался благодаря изобретению совершенных технологий, таких как сельское хозяйство, охотничьи орудия, пенициллин. Понадобилось 11 000 лет, чтобы население Земли увеличилось с шести миллионов человек в неолите до семи миллиардов в наши дни[12].

      Представляет ли Алекса себе яблоко так же, как мы, или в самом ли деле «оригинальна» музыка Amper, – все это вопрос о том, как мы мыслим себе процесс мышления.

      Современный ИИ представляет собой сплав тысячелетнего опыта философов, математиков, ученых, специалистов по робототехнике, художников и теологов. Их задача – как и наша в настоящей главе – заключается в том, чтобы понять связь между мышлением и контейнером для мышления, между человеческим разумом и машинами. Как возникает эта связь благодаря – или вопреки – машинам, которые строит «Большая девятка» в Китае и Соединенных Штатах?

      Есть ли разум внутри машины?

      Основные идеи ИИ ведут свое происхождение из Древней Греции и восходят к истокам философии, логики и математики. Во многих текстах Платона Сократ говорит: «Познай самого себя», – подразумевая, что стать лучше и принимать правильные решения можно, только узнав сначала собственный характер. Аристотель, помимо прочего, изобрел силлогическую логику и нашу первую формальную систему рассуждений методом дедукции. Приблизительно в то же время математик Евклид придумал, как найти наибольший общий делитель двух чисел, и таким образом разработал первый алгоритм. Благодаря этим древнегреческим мыслителям возникли две новые важные идеи: некоторая физическая система может действовать как набор логических правил, и человеческое

11

“The Seikilos Epitaph: The Oldest Song in the World,” Wired, October 29, 2009, https://www.wired.com/2009/10/the-seikilos-epitaph.

12

“Population Clock: World,” Census.gov, 2018, https://www.census.gov/ popclock/world.