Алгоритм судного дня. Как Facebook, Google, Microsoft, Apple и другие корпорации создают искусственный суперинтеллект и почему это приведет к катастрофе. Эми Уэбб

машины будущего станут воспроизводить человеческое мышление, не нуждаясь в идее божественного провидения. Для мышления не обязательно необходимы восприятие, чувства или душа. Лейбниц представлял себе компьютер, способный решать задачи общего характера, даже не обязательно математические. Он предполагал, что язык может быть сведен к элементарным идеям математики и науки и эту задачу можно рассматривать как часть работы над универсальным переводчиком[22].

      Может быть, ум и машина просто следуют алгоритму?

      Если Лейбниц был прав в том, что люди – просто одушевленные машины, и когда-нибудь будут изобретены машины неодушевленные, способные производить непредставимые нам и отточенные идеи, тогда в нашем мире должно существовать простое и однозначное разделение машин на два класса: мы и они. Но спор только начался.

      В 1738 году Жак де Вокансон, художник и изобретатель, построил несколько автоматов для Французской академии наук, и среди них – сложно устроенную утку, очень похожую на живую. Она не только подражала движениям настоящей утки, хлопая крыльями и клюя зерно, но и умела имитировать пищеварение. Таким образом, философам была предложена пища для размышлений: если нечто выглядит как утка и крякает как утка, является ли оно на самом деле уткой? Если мы полагаем, что утка обладает душой, отличной от нашей, каково достаточное условие для вывода, что утка осознает себя, и что из этого следует?

      Шотландский философ Дэвид Юм отвергал идею, что осознание своего существования служит доказательством наличия сознания. В отличие от Декарта, Юм был сторонником эмпиризма. Он разработал научный метод, основанный на наблюдаемых фактах и логических рассуждениях. Когда Вокансон показывал свою оснащенную пищеварительной системой утку – и задолго до того, как впервые заговорили об ИИ, – Юм писал в «Трактате о человеческой природе»: «Разум является, и должен быть, всего лишь слугой страстей». В данном случае под «страстями» Юм подразумевал «иррациональные мотивы» и утверждал, что наше поведение определяют привлекательные для нас цели, а не абстрактная логика. Если наши впечатления – просто восприятие нами вещей, которые мы видим, чувствуем, осязаем, пробуем на вкус, обоняем, а идеи – восприятие вещей, с которыми мы не входим в непосредственное соприкосновение, то наше существование и картина окружающего нас мира, по Юму, оказываются основаны на концепции человеческого восприятия.

      Разработка сложных автоматов, облик которых приобретал все большую реалистичность, более внимательное рассмотрение идеи компьютеров как мыслящих машин привели французского врача и философа Жюльена Офре де Ламетри к мысли предпринять исследование людей, животных и автоматов – столь же радикальное, сколь и скандальное. В статье 1747 года, которую он сначала опубликовал анонимно, Ламетри утверждал, что люди удивительно похожи на животных и обезьяна могла бы освоить человеческий язык, если бы ее «надлежащим образом учили». Ламетри также сделал вывод, что

22

Лейбниц пишет: «Я еще раз задумался над своим давнишним планом создания системы логических выводов, которая могла бы служить средством общения для всех разнообразных народов… Если бы мы располагали подобным универсальным устройством, то могли бы обсуждать проблемы метафизики или этики так же, как проблемы и задачи по математике или геометрии. В этом и заключалась моя цель: любое недопонимание стало бы не более чем ошибкой в вычислениях… легко устранимой при помощи грамматических правил нового языка. Таким образом, в случае трудного спора философы могли бы просто сесть за стол и произвести вычисления. Подобно двум математикам, они могли бы сказать: „Давайте это подсчитаем“».