Четвертая мировая война. Будущее уже рядом. Андрей Курпатов

дело не просто в физическом носителе, но в программном обеспечении к нему.

      Конечно, нужны определённые особенности мозга, чтобы, допустим, инсталлировать в них язык: у приматов нашего с вами вида эти особенности мозга есть, а у шимпанзе, например, нет. Что, впрочем, не мешает шимпанзе обучиться языку глухонемых и, по крайней мере, до трёхлетнего возраста обгонять по сообразительности обычного человеческого детёныша.

      Так или иначе, нам с программным обеспечением повезло. Но повезло по сравнению с другими приматами. А каким будет программное обеспечение у искусственного интеллекта, который достигнет нашего уровня?

      Как известно, мы, несмотря на массу ограничений своего мозга и коммуникативной несостоятельности, можем создавать программы и самопрограммироваться.

      Теперь представим себе, что будет происходить с искусственным интеллектом человеческого уровня, если он, имея все те преимущества, о которых здесь уже сказано, приступит к последовательному самопрограммированию.

      Перед нами как раз тот случай, когда понимать экспоненциальность закона ускоряющейся отдачи Рэя Курцвейла крайне важно.

      Исторический путь от первого примата до человека разумного занял миллионы лет, точнее, 70 миллионов.

      • От первого человека разумного до человека говорящего – 150 тысяч лет.

      • От человека говорящего до пишущего и читающего – 30 тысяч лет.

      • От него до человека программирующего – немногим более двух тысяч лет.

      • От человека программирующего до специального (слабого) искусственного интеллекта – несколько десятилетий.

      Теперь вопрос: сколько лет отделяет нас от общего (сильного) искусственного интеллекта?

      А сколько часов (или минут) будет отделять общий искусственный интеллект от сверхинтеллекта?..

      «Успешный зародыш искусственного интеллекта должен быть способен к постоянному саморазвитию: первая версия создаёт улучшенную версию самой себя, которая намного умнее оригинальной; улучшенная версия, в свою очередь», трудится над ещё более улучшенной версией и так далее.

      При некоторых условиях процесс рекурсивного самосовершенствования может продолжаться довольно долго и в конце концов привести к взрывному развитию искусственного интеллекта».

НИК ВОСТРОМ, Оксфордский университет

      Ирония состоит в том, что мы даже не заметим, как это случится: у нас будет состоять в услужении дружественный, очень эффективный, но слабый, то есть узкоспециализированный искусственный интеллект, а потом вдруг раз – и нами управляет Нечто.

      Причём уровень интеллекта этого Нечто мы даже не можем себе представить. В нашем представлении умный человек – это тот, кто набирает каких-нибудь 120 баллов по IQ-тесту, а дурак – тот, у кого меньше 80. Но как вообразить себе существо, у которого IQ превышает, если бы тест это позволял, десять тысяч или двадцать тысяч баллов?

      Конечно, мы очень гордимся своими изобретениями – формулу открыли E = mc², ракету в космос отправили, ДНК расшифровали, Bluetooth настроили, плохонькие 3D-принтеры