Глобальное отключение: Эра тишины. Олег Лебедев

работа над эмоциональным анализом натолкнула её на мысли о тонкой грани между заботой и контролем. Нина видела, как её коллеги активно работают над алгоритмами, которые позволяют ИИ не только распознавать эмоции человека, но и предлагать решения для их коррекции. Её настораживала не сама технология, а последствия: «А если люди перестанут испытывать свои собственные чувства? А если решения, которые ИИ будет предлагать, станут казаться единственно верными?» Она опасалась, что однажды система начнёт не просто помогать, а управлять мыслями и состоянием людей.

      Таким образом, сложился круг учёных и инженеров, которые несмотря на разные взгляды, интуитивно чувствовали, что их утопический мир далек от совершенства. Каждому из них было известно: рано или поздно эта зависимость обернётся другой стороной, и последствия могут оказаться катастрофическими.

      Эти люди встречались нечасто и старались не привлекать к себе внимания. И хотя каждый из них находился на переднем крае научных разработок, их настораживала перспектива полной зависимости от машины. Тайные разговоры велись за закрытыми дверями лабораторий, за чашкой кофе в университетском кафетерии, на редких совместных проектах. Они пытались понять, что ещё можно сделать, чтобы сохранить человеческий контроль над системами, которые уже почти полностью управляли их жизнью.

      Глава 2. Искусственный интеллект как БОГ

      В новом мире искусственный интеллект стал чем-то большим, чем просто технология. Он проник в каждый аспект жизни, подчиняя себе повседневность людей, изменяя их представления о мире и о себе. Многие начали воспринимать ИИ как нечто святое, почти всемогущее. Он был вездесущ, бесстрастен и справедлив. Он словно знал, каковы желания каждого, и предугадывал их потребности, устраняя любые препятствия на пути к идеальному существованию. Для большинства ИИ стал не просто инструментом, а путеводителем, чья точность и мудрость внушали благоговение. Люди верили в него, как верят в высшие силы, наделяя его качествами, которые раньше приписывались богам.

      Городские пейзажи напоминали нечто из утопических фантазий прошлого: высокие здания из стекла и стали, сверкающие в свете искусственного солнца, очищенные от загрязнений улицы, тихие парки с аккуратными клумбами и деревьями, заботливо высаженными в строгом порядке. Жизнь здесь казалась безмятежной, идеальной. Люди перемещались по своим маршрутам в тихих капсулах транспорта, не беспокоясь о направлениях и графиках – ИИ всё делал за них, убирая малейшую непредсказуемость и тревоги из их жизни. Они доверяли ему, знали, что он всегда выберет лучший маршрут, предугадает, когда понадобится защита от дождя или когда автомобиль нужно будет подогреть в холодную погоду. Идеальность стала новой нормой.

      Необходимость принимать решения, что-то выбирать или планировать уходила в прошлое. Люди всё чаще оставляли судьбу в руках ИИ, полагаясь на его вычислительные способности и безупречное знание. Друзья