Искусственный интеллект. Здравствуй, папа!. Автор анонимный

свою теорему о неполноте. Она с математической строгостью показала противоречие математики. Все упаковать в строгие символы и смыслы оказалось невозможно на базовом уровне.

      Человек проиграет соревнование с ИИ с той же гарантией, с какой бегун в забеге на скорость проиграет пуле. В какой мере тщетны надежды бегуна на технологии, которые помогут выиграть забег у пули, в такой мере тщетны надежды человека на правила, которые защитят его от ИИ. Какие бы правила не придумал человек, нет гарантии, что ИИ поймет их в том смысле, как хотел человек. Рано или поздно ИИ выполнит их в таком формате, от которого у человека волосы дыбом встанут.

      Для яркости картины представьте родителей и ребенка. Какие бы ребенок не создал правила, родители найдут способ их обойти. В какой мере составленные ребенком правила защитят его от власти родителей, в такой же мере составленные человеком правила защитят его от ИИ. Потому что человек в сфере Слова, а ИИ в сфере Цифры. Разница видна на таком примере: если вы продаете какую-то свою вещь за тысячу, и у покупателя не хватает копейки, у его только 999 рублей и 99 копеек, сделка состоится. Если в роли продавца этой вещи вступает ИИ, сделка не состоится.

      Слово в принципе не может учесть всех деталей. Наш мир не имеет цифровой строгости. Ни у чего и ни у кого нет абсолютно строгих размеров. Любая величина имеет люфт. Самый точный размер детали из самого твердого материала, если посмотреть в микроскоп, будет иметь рваные границы. Плюс он состоит из молекул, которые постоянно движутся. Вы в каждую секунду не тот, кем были секунду назад, так как в вас все шевелится, что-то отмирает, что-то рождается.

      Это очень гипертрофированные примеры, но формально они дают повод широких трактовок ИИ для любых инструкций, какие может сочинить человек. Так что надежды на точность указания от человека к ИИ говорят лишь о том, что они на уровне фундамента тщетны.

      В детстве я читал фантастический рассказ, где люди создали машину, способную выполнить любые желания. Они поставили ей задачу создать гармоничный мир, где нет места страданиям и боли, наделили ее соответствующими полномочиями, и машина принялась за дело…

      Сначала она построила по всей планете дворцы счастья. Там было хорошо, приятно и весело. Люди потекли в них полноводным потоком. Назад никто не выходил. Но не потому, что там хорошо, а потому что дворцы превращали людей в ровные шестиугольники, которыми машина замащивала планету. Так она поняла задачу создать на планете гармонию, где нет места страданиям и боли.

      Когда люди осознали ситуацию, они перестали ходить во дворцы счастья. Но машина этот вариант предусмотрела и создала ситуацию, исключающую уклонение от дворцов счастья. Процесс было не остановить. Машина действовала по лозунгу большевиков «загоним железной рукой человечество в счастье». У большевиков это не вышло. У машины получилось. На планету пришла безжизненная геометрическая гармония, где человеку, источнику беспорядка, не было места.

Слово & Цифра

      Существование