ИИ-2041. Десять образов нашего будущего. Кай-фу Ли

какой-то телезвезды или из какой-нибудь известной семьи.

      – Нет, наоборот. Это делают, чтобы вы не испытывали дискомфорта.

      – В смысле?

      – Ну, когда-то это описывали как ощущение оскверненности.

      – Ты о своей касте, что ли? Но ведь эту систему отменили давным-давно.

      Сахедж горько усмехнулся.

      – Ее запретили законом, о ней не говорят в новостях, но она существует.

      – Но откуда об этом знает искусственный интеллект?!

      – А он не знает. Ему не нужно знать определение каст. Все, что ему требуется – история пользователей. Как бы мы ни скрывались, не меняли фамилии, следы все равно остаются. Их стереть невозможно.

      Наяна вспомнила: мама ведь говорила, что искусственный интеллект знает только то, чему его учат люди. Она немного поиграла с этой мыслью, а затем внимательно посмотрела на Сахеджа:

      – Так что, по-твоему, искусственный интеллект выявляет невидимую дискриминацию и оценивает ее количественно?

      Сахедж посерьезнел, на миг задумался и фыркнул.

      – Чуть не забыл. Еще – цвет моей кожи. Ты же знаешь, что на санскрите одно и то же слово означало и каста, и цвет?

      – Это же полный бред!

      – Нет, это реальность. Женщины из низшей касты могут встречаться с мужчинами из высшей касты и даже выходить за них замуж. Но наоборот – ни в коем случае. Это вконец испортит репутацию семьи девушки.

      – Неужели искусственный интеллект действительно волнуют подобные глупости?

      – Ему наплевать на наши устаревшие социальные устои! Но он стремится уменьшить размер страхового взноса пользователей, и поэтому GI пытается помешать нам с тобой быть вместе.

      Наяна услышала главное слово – «вместе». Щеки у девушки вспыхнули.

      – «Максимизация целевой функции» – так это называется.

      – Чего-чего?

      – Люди поставили перед искусственным интеллектом цель: снижать страховые взносы клиентов до минимально возможного уровня. И теперь он решает эту задачу. Он вообще не учитывает факторов, которые не влияют на снижение взноса, и ему уж точно без разницы, счастливы люди или нет. Машины недостаточно умны, чтобы интерпретировать ощущения поверх статистических данных. К тому же несправедливость и предрассудки по-прежнему вполне реальны. А искусственный интеллект только обнажает этот позор.

      – Откуда ты все это знаешь?

      Сахедж улыбнулся.

      – Хочу поступить в Империал-колледж[19], стать специалистом по искусственному интеллекту. Хочу изменить эту дурацкую ситуацию.

      За умными разговорами парочка незаметно дошла почти до дома Наяны – на последнем перекрестке Сахедж остановился и приготовился прощаться. Расставаться не хотелось, и тут Наяну осенило.

      – А почему мы не можем изменить это прямо сейчас? Разве мы разрешили искусственному интеллекту распоряжаться нашей судьбой? Как предсказаниям на FateLeaf, написанным тысячи лет назад?

      По лицу Сахеджа пробежала тень.

      – Ты

19

Имперский колледж Лондона, до 2007 года входил в состав Лондонского университета. Основан в 1907 году путем слияния нескольких еще более старых учебных заведений. Прим. ред.