andrzejn | Алгоритм понимания

ivanov_petrov даёт ссылки на очередное обсуждение Пенроуза, "китайской комнаты" и связанных с ними плясок вокруг принципиальной [не]возможности AI. Пенроуза я не читал и даже обсуждение не полностью осилил, поэтому включаться в эти глубокие философские рассуждения не вправе.

Выскажусь только по одному вопросу. Тезис, как я его понял: "Компьютер умеет исполнять алгоритмы, возможно даже очень сложные, вроде качественного перевода с естественных языков. Но он не понимает то, что исполняет, поэтому не считается (и никогда не будет считаться) разумным существом".

Прежде чем обсуждать этот тезис, нужно дать чёткое определение понимания. Вопрос это очень тонкий и болезненный, я за него и браться не стану. Озвучу только собственное (неточное) понимание понимания.

Когда я приступаю к новой для себя области знаний и умений, я часто начинаю с механического освоения алгоритмов, определений и правил. На этом этапе я подобен медленному и глупому компьютеру, и я определённо не понимаю то, что уже умею делать (следуя алгоритмам).

Через некоторое время набор вербальных правил и медленных интерпретируемых алгоритмов "укладывается" в моём сознании: обрастает моим личным чувственным опытом и паразитными ассоциациями (часто ведущими в случайные области опыта, никак не связанные с изучаемым знанием).

И, наконец, я вдруг понимаю. Это означает, что я могу забыть о формальных правилах, перестать проговаривать алгоритмы и просто естественно действовать на рефлексах и интуиции, произвольно отступать от предписаний, изобретая сокращения и вариации метода (иногда лучшие и скорейшие, иногда фатально ошибочные).

Однако я не могу передать своё новое понимание другим людям, пока вновь не формализую и не вербализую его. Получив же от меня формальное описание, они не поймут его немедленно, пока не пройдут тот же путь ассоциативного усвоения материала.

Чем же оказывается для меня пресловутое понимание? Всего лишь компиляцией - переводом текста с промежуточного (интерпретируемого) языка межчеловеческого общения в сравнительно быстрые структуры личной нейронной сети.

Иными словами, бездушные механические алгоритмы - это то, что мы осознаём и отслеживаем на каждом промежуточном шаге; то, что мы исполняем разумно. Понимание же - то, что действует независимо от разума, на более древних (животных, автономных) механизмах и, соответственно, непонятно как работает.

Понимание - это то, что непонятно в принципе и никогда не может быть понято и воспроизведено. Низведенное до алгоритма, любое знание или действие перестаёт быть пониманием.

Я могу представить себе компьютерные приложения, которые будут понимать в этом смысле. Например генетические алгоритмы. Но чтобы демонстрировать разумное поведение, это совершенно не обязательно. Чат-роботы, проходящие тест Тьюринга на уровне 90% посетителей типового чата - давно уже не фантастика.