Думаю, что самым противным камнем преткновения в понимании работы ума является сам феномен понимания. И "китайская комната", и бесплотные и вездесущие квалиа родом из этого темного леса. Феномен понимания до сих пор представляется чем-то едва ли не потусторонним очень большому количеству ученых и философов, пробующих изучать работу мозга и ума.

Я давно нашел для себя простую версию, полностью объясняющую этот феномен. Понятно, что это только общая грубая схема и особых доказательств того, что всё это работает именно так у меня нет. Это не более чем рабочая гипотеза. Но, тем не менее, я думаю, что она вполне заслуживает фиксации.

Так что же происходит при понимании? На мой взгляд, понимание это просто ощущение. Оно сродни удовлетворению при достижении цели, хотя и выглядит иначе. Это просто флажок стандартного ответа системы химического вознаграждения на окончание построения рабочей гипотезы, связывающей полученные паттерны воедино.

То есть ум не может анализировать пришедшие данные вечно. Ум должен построить нарратив, объясняющий связь поступивших данных. Нарратив, понятно, это тоже паттерн, но это уже отдельные дебри. Как только человек выстроил удовлетворяющий его текущее состояние ума нарратив, он получает с известной полки химический пирожок. Испытывает чувство понимания. Это чувство очень приятно. И чем сложнее и запутаннее клубок поступивших данных, тем приятнее его понять.

Человек попадает в зависимость от ощущения понимания, так же как от от любых прочих острых чувств. Страха, агрессии, нежности, любви...Человеку нравится испытывать понимание и тут у него есть два пути. Честно распутывать всё более и более сложные клубки, накапливая при этом знания, или же, напротив сохранять свой ум девственным и получать тот же самый кайф от простых и емких формулировок, например "мир это большая белая река" и "все мужики сволочи".

И самый последний. Достаточно спорный, рискованный момент. Мне кажется что острые эйфорические состояния при медитации создаются тем же каскадом (ну или очень к нему близким), которым человеку выдается вознаграждение при понимание. Всё это было бы ужасно интересно проверить, но у меня как раз сейчас нет под рукой нейро-сканера, буддийского монаха, и хорошего креативного математика.

Последнее, что хочется отметить, что "понимание" никогда не означает действительного понимания. Оно означает только окончание работы над нарративом. Мозг - жадный руководитель, поэтому платит он только по окончанию проекта. Платит он, понятно, самому себе, потому закончить побыстрее с нарративом, в ущерб этого нарратива качеству, и забалдеть в понимании для него самое обычное дело. Работа же так называемого "мыслителя" состоит как раз в том, чтобы откладывать получение награды, совершенствуя нарратив. Естественным образом, для особенно упрямых перфекционистов у мозга есть, помимо описанного выше пряника, еще и кнут. Именно работой этого кнута объясняется большая часть неприятностей в жизни умнейших людей.

Ну и последний вопрос. Будет ли испытывать "понимание" искусственный интеллект? Если у него будет встроенная система вознаграждения, то да. Если этой системы не будет, то процесс создания нарратива будет у него просто молча останавливаться при достижении оптимальной его сложности.