Алгоритм понимания
Sunday, 6 January 2008 13:34![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
andrzejn![[livejournal.com profile]](https://www.dreamwidth.org/img/external/lj-userinfo.gif){kind=small}
ivanov_petrov даёт ссылки на очередное обсуждение Пенроуза, "китайской комнаты" и связанных с ними плясок вокруг принципиальной [не]возможности AI. Пенроуза я не читал и даже обсуждение не полностью осилил, поэтому включаться в эти глубокие философские рассуждения не вправе.Выскажусь только по одному вопросу. Тезис, как я его понял: "Компьютер умеет исполнять алгоритмы, возможно даже очень сложные, вроде качественного перевода с естественных языков. Но он не понимает то, что исполняет, поэтому не считается (и никогда не будет считаться) разумным существом".
Прежде чем обсуждать этот тезис, нужно дать чёткое определение понимания. Вопрос это очень тонкий и болезненный, я за него и браться не стану. Озвучу только собственное (неточное) понимание понимания.
Когда я приступаю к новой для себя области знаний и умений, я часто начинаю с механического освоения алгоритмов, определений и правил. На этом этапе я подобен медленному и глупому компьютеру, и я определённо не понимаю то, что уже умею делать (следуя алгоритмам).
Через некоторое время набор вербальных правил и медленных интерпретируемых алгоритмов "укладывается" в моём сознании: обрастает моим личным чувственным опытом и паразитными ассоциациями (часто ведущими в случайные области опыта, никак не связанные с изучаемым знанием).
И, наконец, я вдруг понимаю. Это означает, что я могу забыть о формальных правилах, перестать проговаривать алгоритмы и просто естественно действовать на рефлексах и интуиции, произвольно отступать от предписаний, изобретая сокращения и вариации метода (иногда лучшие и скорейшие, иногда фатально ошибочные).
Однако я не могу передать своё новое понимание другим людям, пока вновь не формализую и не вербализую его. Получив же от меня формальное описание, они не поймут его немедленно, пока не пройдут тот же путь ассоциативного усвоения материала.
Чем же оказывается для меня пресловутое понимание? Всего лишь компиляцией - переводом текста с промежуточного (интерпретируемого) языка межчеловеческого общения в сравнительно быстрые структуры личной нейронной сети.
Иными словами, бездушные механические алгоритмы - это то, что мы осознаём и отслеживаем на каждом промежуточном шаге; то, что мы исполняем разумно. Понимание же - то, что действует независимо от разума, на более древних (животных, автономных) механизмах и, соответственно, непонятно как работает.
Понимание - это то, что непонятно в принципе и никогда не может быть понято и воспроизведено. Низведенное до алгоритма, любое знание или действие перестаёт быть пониманием.
Я могу представить себе компьютерные приложения, которые будут понимать в этом смысле. Например генетические алгоритмы. Но чтобы демонстрировать разумное поведение, это совершенно не обязательно. Чат-роботы, проходящие тест Тьюринга на уровне 90% посетителей типового чата - давно уже не фантастика.
![[identity profile]](https://www.dreamwidth.org/img/silk/identity/openid.png){kind=small}
no subject
Date: Sunday, 6 January 2008 12:25 (UTC)no subject
Date: Sunday, 6 January 2008 12:35 (UTC)no subject
Date: Sunday, 6 January 2008 12:46 (UTC)no subject
Date: Sunday, 6 January 2008 12:52 (UTC)no subject
Date: Sunday, 6 January 2008 12:32 (UTC)no subject
Date: Sunday, 6 January 2008 13:03 (UTC)no subject
Date: Sunday, 6 January 2008 15:22 (UTC)А "непонимание понимания" -- всего лишь отсутствие reflection'а, с позволения сказать. Программа нижнего уровня (рефлексы, подсознание) не хранит никакой информации о программе уровня выше -- об алгоритмах, выразимых словами, образами, ощущениями.
Это очень похоже на компиляцию, когда исчезает вербализуемая информация (в случае мозга) или информация об идентификаторах, структурах и способах компиляции программы.
no subject
Date: Sunday, 6 January 2008 16:17 (UTC)Правда, есть ещё одна тонкость: человеки от того и разумны, что постоянно пытаются понять своё понимание. Кажется, что рефлексия есть неотъемлемая часть разумности. Да, так вот, при этом в принципе есть некоторые штуки, устроенные похожим образом (поверх какой-то начальной штуки строится мета-уровень её описания, сверху мета-мета-уровень, описывающий мета-уровень, и так далее), но имеющие конечный предел при устремлении количества уровней к бесконечности =) В G.E.B. про это много написано.
no subject
Date: Tuesday, 8 January 2008 08:31 (UTC)no subject
Date: Monday, 7 January 2008 07:15 (UTC)no subject
Date: Monday, 7 January 2008 09:06 (UTC)no subject
Date: Tuesday, 8 January 2008 04:35 (UTC)по крайней мере, на современном этапе развития AI )))
(есть один детский чат с роботом, так дети почти поголовно принимают его всерьез, и даже те дети, которые уже знают, что чатланин с ником "робот" - это только программа, все равно с ним разговаривают... мне в связи с этим вспоминается Гриновский Ксаверий)
no subject
Date: Tuesday, 8 January 2008 17:24 (UTC)no subject
Date: Tuesday, 8 January 2008 08:30 (UTC)Хорошо сказано :)
Или как у нас на курсе, кажется, Технологии Программирования сказывали: "переход от неформального к формальному существенно неформален"
А по поводу китайской комнаты, имхо, вот здесь неплохо сказано:
http://chip33.livejournal.com/405944.html?thread=4458424#t4458424
(faceted_jacinth в комментах: "философ берёт машину, вытаскивает из неё транзистор, заменяет его на человека и ждёт, что человек внезапно осознает всё, что делает машина")