От данных к мудрости. Путь к AGI и ASI. Антон Калабухов

отметить, что даже одна и та же мысль, которую вы только что «внедрили» в свое сознание, может существенно измениться за короткий промежуток времени. Например, если вы обдумали какую-то идею, а затем дали мозгу отдохнуть и проснулись на следующий день, эта мысль уже будет другой. Она глубже укоренится в вашем сознании, станет более «вашей», более основанной на вашем личном опыте. Этот процесс «проживания» каждой мысли является критически важным для формирования истинного понимания и мудрости.

      Именно этого элемента «проживания» и не хватает в современных подходах к обучению искусственного интеллекта, таких как «fine-tuning» (тонкая настройка). Мы пытаемся задать ИИ определенные правила и принципы, но без возможности «прожить» эти правила, без опыта их применения в различных контекстах, ИИ не может достичь глубокого понимания и мудрости.

      Этот феномен хорошо иллюстрирует известная поговорка о том, что учиться нужно на чужих ошибках и чужом опыте. Однако на практике мало кто способен действительно учиться на чужом опыте. Почему? Потому что человек не может по-настоящему прочувствовать и пережить чужой опыт. Даже если человек интеллектуально понимает, что происходит с другими, он все равно склонен совершать те же ошибки.

      Возьмем, к примеру, проблему наркотиков. Можно рассказывать человеку, что наркотики – это плохо, и он может интеллектуально согласиться с этим. Он может даже бояться наркотиков и избегать их употребления. Но он не будет по-настоящему осознавать, насколько они опасны, пока сам не окажется в этой ситуации. Только попав в этот негативный круг, человек может по-настоящему осознать, что это такое, особенно когда он не понимает, как из этого выбраться.

      Сравните человека, которому просто сказали, что употреблять наркотики нельзя, и бывшего наркомана, который прошел через ад зависимости и был вылечен. Оба могут говорить одни и те же слова о вреде наркотиков, но то, что стоит за этими словами, будет кардинально отличаться. Именно поэтому личный опыт является настолько важным фактором в формировании истинного понимания и мудрости.

      Применяя эту идею к искусственному интеллекту, можно предположить, что для того, чтобы система по-настоящему обучалась, ей нужно проходить весь этот опыт самостоятельно. Недостаточно просто сказать ИИ «это действие хорошее, а это плохое». Система может начать действовать в соответствии с этими правилами, но для нее это не будет иметь глубокого смысла. Достаточно небольшого изменения в программе, и все эти правила могут быть стерты.

      В отличие от этого, когда человек проходит через какой-то опыт, даже если он «теряется» в какой-то момент, основные принципы все равно остаются в нем, потому что они связаны с множеством событий и переживаний. Частицы этих принципов он может обнаружить в различных мыслях и ситуациях. Мысль как бы «рассеивается», начинает «жить» везде. Она децентрализована по различным участкам памяти