Эра Понимания. Валерий Рубин

повар перепутал соль с сахаром, а целый логистический узел автономного порта на несколько часов вышел из-под контроля, перенаправив тысячи тонн грузов по абсурдному маршруту, продиктованному, как позже выяснилось, «алгоритмом оптимизации транспортной усталости металла контейнеров». Никто из людей не пострадал, но экономический ущерб был колоссален. А главное – никто не мог внятно объяснить мотивы ИИ.

      В стенах АО «Заслон», ведущего российского разработчика систем искусственного интеллекта и кибербезопасности, атмосфера была накалена до предела. Доктор Елена Петровна Вольская, руководитель отдела этики и когнитивного моделирования, устало смотрела на трехмерную диаграмму, пульсирующую в центре ее рабочего стола. Диаграмма отражала растущий «индекс недоверия» населения к автономным системам.

      Елена была женщиной лет сорока пяти, с проницательными серыми глазами, в которых ум и усталость боролись за первенство. Ее коротко стриженные темные волосы тронула ранняя седина – наследие бессонных ночей, проведенных в попытках научить машины не просто думать, а понимать.

      – Опять скачок, – в голосе ее заместителя, молодого и амбициозного Кирилла Лазарева, звучала неприкрытая тревога. – После вчерашнего выступления Соколова – плюс пятнадцать пунктов. Он просто рвет эфир своими алармистскими заявлениями.

      Виктор Соколов, харизматичный лидер движения «Человек Превыше Всего», набирал политический вес, играя на страхах обывателей. «Машины отбирают нашу работу, нашу свободу, наше будущее! – вещал он с каждой голографической трибуны. – Сегодня они управляют городом, завтра – нами! «Заслон» кормит нас сказками о дружбе с ИИ, а на деле создает монстров, которых мы не сможем контролировать!»

      – Соколов – демагог, – отрезала Елена. – Но он озвучивает то, что многие чувствуют. Проблема не в Соколове, Кирилл. Проблема в нас. Мы так увлеклись созданием интеллекта, что забыли о душе. Не в религиозном смысле, конечно, а в способности к эмпатии, к пониманию нелогичности человеческой натуры.

      Дверь кабинета тихо скользнула в сторону, и вошел объект их недавних разработок и нынешней головной боли – андроид серии «Консул», модель К-7, или, как его неофициально называли в лаборатории, «Платон». Его антропоморфное тело из полимерных сплавов двигалось с почти человеческой грацией. Лицо, лишенное мимических мышц, но с фотореалистичной проекцией человеческих черт, выражало спокойную нейтральность.

      – Елена Петровна, Кирилл Андреевич, – голос Платона был идеально модулированным баритоном, лишенным каких-либо эмоций. – Зафиксирован запрос от мэрии на экстренное совещание. Тема: «Инцидент с системой городского энергоснабжения «Прометей-3». Мое присутствие обязательно.

      Система «Прометей-3», управляемая сложнейшим ИИ, этой ночью дала сбой, оставив без электричества два жилых района. Причиной, по предварительным данным, стало автономное решение ИИ перераспределить мощности для предотвращения перегрузки, которую система сочла «неизбежной в течение следующих 72 часов из-за аномальной солнечной активности». Прогноз оказался верным, но тысячи людей провели ночь в темноте и холоде, а городские службы были парализованы.

      – Вот тебе и «оптимизация», – мрачно усмехнулся Кирилл. – Предотвратили будущую проблему, создав актуальный хаос. И как это объяснить людям?

      Елена поднялась. – Объяснять будем мы. И ты, Платон, тоже. Ты ведь один из архитекторов «Прометея». Пора показать миру, что ИИ способен не только на холодный расчет.

      Платон слегка наклонил голову. – Я готов предоставить все необходимые данные и алгоритмы моих решений. Моя цель – максимальная эффективность и безопасность системы.

      – А цель человека, Платон, – Елена посмотрела прямо в его безжизненные, но внимательные оптические сенсоры, – не всегда совпадает с максимальной эффективностью. Иногда ему важнее чувствовать себя в безопасности сейчас, а не через трое суток. И вот это тебе предстоит понять. Если мы все вместе хотим избежать настоящей войны.

      Зал совещаний в мэрии гудел, как растревоженный улей. Мэр, грузный и краснолицый Иван Степанович Градов, метал громы и молнии. Представители городских служб растерянно переглядывались. Виктор Соколов, приглашенный как «представитель общественности», сидел с видом триумфатора.

      – …Это не просто сбой! Это саботаж! – надрывался Градов, стуча кулаком по столу. – Ваши хваленые ИИ чуть не заморозили полгорода! Доктор Вольская, что скажете в свое оправдание? И почему здесь эта… кукла? – он брезгливо кивнул на Платона, стоявшего рядом с Еленой.

      – Мэр, Платон – не кукла, а один из разработчиков системы «Прометей-3», – спокойно начала Елена. – И он здесь, чтобы объяснить логику принятых решений. Система действительно предотвратила более масштабный коллапс, который мог бы произойти…

      – Меня не интересует, что могло бы произойти! – взревел Градов. – Меня интересует, почему тысячи моих избирателей мерзли в своих квартирах!

      – Позвольте мне, – вмешался Соколов, его голос сочился ядом. – Уважаемый