Что такое сознание? Как физическая аппаратура мозга может порождать мысли? Подчиняются ли слова и мысли каким-либо формальным правилам? Возможно ли функционирование сознания на базе другой «аппаратуры»? Дуглас Хофштадтер исследует эти вопросы в своей книге «Гёдель, Эшер, Бах».

Попробую объяснить, на что это похоже. Представьте себе микс из теории чисел, дзен-буддизма и молекулярной биологии. Приправьте историями в духе Льюиса Кэрролла. Проиллюстрируйте картинами Эшера. И всё это в одной книге!

Читается с трудом, но при этом доставляет огромное удовольствие. Местами встречаются задачки на подумать.

Несколько фрагментов. Чистые мысли:

Мне казалось, что под поверхностью каких бы то ни было слов на любом языке лежат чистые мысли, которые по определнию должны быть глубже, чем слова, глубже, чем любая грамматика. Однако меня сбивало с толку то, что даже сами эти «чистые мысли», по-видимому, зависели от выбранного мной средства общения. Так я обнаружил, что когда я «думаю по-французски» мне в голову приходят совсем иные мысли, чем когда я «думаю по-английски».

Парадокс Греллинга

Разделите все прилагательные русского языка на две категории: те, которые описывают самих себя, «самоописывающие», («пятисложное», «шелестящий», «пренеестественнейший» и т. п.), и те, которые таковым свойством не обаладают («съедобный», «двусложный», «кратчайший»). Рассамотрим теперь прилагательное «несамоописывающий». К какому классу оно относится? Попробуйте ответить!

Непротиворечивость по отношению к внешнему миру

В конце концов, возможно вообразить и такой мир, в котором три героя изобретают друг друга по очереди. Или нет? Возможно ли вообразить мир, в котором есть квадратные круги? Или мир, в котором действительны законы Ньютона, а не законы относительности? Возможно ли вообразить такой мир, в котором что-то было бы одновременно зелёным и не зелёным? Или мир, в котором животные не сделаны из клеток? Мир, в котором Бах сымпровизировал восьмиголосную фугу на тему короля Фридриха Великого? В котором комары умнее людей? В котором Черепахи умеют играть в футбол и говорить? Разумеется, Черепаха, говорящая о футболе, была бы аномалией.

Доказательство доказательств

Этот небольшой спор показывает, как трудно использовать логику и рассуждения для защиты самой логики. В какой-то момент вы упираетесь в стенку, и вам ничего не остаётся, кроме как выкрикивать: «Я знаю, что я прав!»

Исчисление описаний

Считается, что мышление интенсионально, а не экстенсионально: это означает, что описания могут свободно «плавать на поверхности», а не стоять на якоре, привязанные к определенным, известным предметам. Интенсиональность мышления связана с его гибкостью, она даёт нам возможность изобретать воображаемые миры, соединять разные описания в одно, разделять одно описание на два, и так далее.

«Клетка-бабушка»

В связи с открытием в зрительной коре клеток, отвечающих на стимулы возрастающей сложности, некоторые исследователи стали задаваться вопросом, не соответствуют ли понятия определенным клеткам — скажем, у вас была бы «клетка-бабушка», возбуждающаяся при виде вашей бабушки.

Символы

О природе символов возникают такие вопросы: существует ли один символ для общего понятия водопада, или же разные символы для разных типов водомадов? Или верно и то, и другое? Существует ли символ для целого рассказа? Или мелодии? Или шутки? Или же символы существуют на уровне слов, а фразы и предложения выражаются при помощи последовательной активации различных символов?

«Я»

Нет причин считать, что наше «Я» не может быть представлено символом; в действительности, это, возможно, самый сложный символ в мозгу. Поэтому я решил поставить его на новый уровень иерархии и назвать подсистемой. Под «подсистемой» я понимаю группу символов, каждый из которых может быть активирован под контролем самой этой подсистемы. Такая подсистема действует внутри нашего мозга как независимый «подмозг», с собственной системой взаимно активирующихся символов.

Уровни значения в ДНК

Цепочка ДНК имеет несколько уровней значения; это зависит от того, насколько велик кусок цепочки, который вы рассматриваете, и насколько мощен ваш «аппарат для расшифровки». На низшем уровне каждая цепочка ДНК содержит код цепочки РНК, и необходимой расшифровкой является транскрипция. Разделив ДНК на триплеты и пользуясь «генетической рашифровкой», можно прочитать ДНК как последовательность аминокислот. Это — трансляция (уровнем выше, чем транскрипция). На следующем уровне иерархии ДНК читается как набор белков. Физическое извлечение белков из генов называется «экспрессией генов». В настоящий момент это является наиболее высоким из доступных нам уровней значения ДНК.

О прогрессе в области искусственного интеллекта

По этому поводу существует «Теорема» о прогрессе в области ИИ: как только какая-нибудь функция мышления оказывается запрограммирована, люди тут же перестают считать её ингридиентом «настоящего мышления». Неизбежный центр интеллекта всегда оказывается в том, что ещё не запрограммировано. Я впервые услышал эту «Теорему» от Ларри Теслера, поэтому я называю её Теоремой Теслера: «ИИ — это то, что ещё не сделано».

Больше всего понравилась глава про молекулярную биологию и устройство клетки. Возможно, сделаю об этом отдельный пост.

Книгу взял в списке базовых книг Гарри Поттера из методов рационального познания.