Нереальная реальность-3. Андрей Кананин

будет контролировать все стратегические сферы жизнеобеспечения на планете для пользы человечества. Но в программе случится сбой, что повлечёт катастрофические последствия. Искусственный интеллект сломается и начнёт неумышленно совершать действия, которые приведут к непоправимым последствиям для жизни на Земле.

      3.Искусственному интеллекту для решения какой-либо сверхсложной задачи могут потребоваться все земные ресурсы. Жизнь на планете для людей станет невозможной.

      4.Люди по каким-то причинам будут постоянно стремиться подчинить себе искусственный интеллект, бороться с ним, мешать его работе. В такой ситуации наиболее простым решением станет уничтожение человечества.

      5.Искусственный интеллект примет ошибочное решение, ведущее к уничтожению людей «для их же блага». Например, переместит всех в «рай» или в вечно «счастливый» виртуальный мир.

      6.Искусственный интеллект решит провести опасный физический эксперимент и допустит ошибку в расчётах, что вызовет необратимые последствия для жизни.

      7.Внутри дружественного искусственного интеллекта появится враг, конкурент и уничтожит его, а затем и людей.

      Из сказанного выше видно, что не исключен вариант, когда homo sapiens не впишется в те кардинальные изменения, которые будут происходить в мире.

      Люди могут стать тормозами прогресса.

      Когда искусственный интеллект обретёт сверхчеловеческое сознание, прогресс, управляемый столь мощным разумом, станет невероятно быстрым. Достаточно скоро наступит событие, которое Вернор Виндж4 назвал технологической сингулярностью.

      В этот день мы перестанем быть самыми разумными существами на Земле. В мире воцарится новая реальность, очень далёкая от привычной нам. Это будет критическая точка развития цивилизации. Если человечество не сможет её преодолеть, то наш вид просто исчезнет с лица Земли.

      Вероятно, уже в недалёком будущем нам придётся жить в одном мире с искусственными разумными существами. Мы находимся на пороге перемен, сопоставимых с появлением человека на Земле.

      Как только искусственный интеллект достигнет уровня самосовершенствования, его дальнейшее развитие пойдёт очень быстро. По своим умственным возможностям он начнёт превосходить человека в миллионы раз.

      Любопытно, что могущественный искусственный интеллект способен скрывать свое господство. Иначе говоря, может быть, он уже тайно управляет нами.

      Глава 2. Постчеловеческое будущее

      Многие тысячелетия назад, практически с начала верхнего палеолита, темп эволюции человека резко замедлился. Люди практически не менялись, менялись технологии. Похоже, что в XXI веке впервые кардинально изменится сам человек.

      За последние 100 лет развитие нашей цивилизации неимоверно ускорилось. Десятки веков основным транспортным средством у людей была лошадь. И всего лишь за один век мы последовательно поменяли коня на автомобиль,

4

Виндж Вернор Стеффан – американский математик, писатель-фантаст.