Тени разума. В поисках науки о сознании

Для того чтобы приблизить нашу модель к виду, приличествующему человеческому математическому сообществу, а также лишний раз удостовериться в отсутствии ошибок в -утверждениях, рассмотрим ситуацию, в которой все окружение нашего робота разделяется на две части: сообществодругих роботов и остальное, лишенное роботов (а также и людей), окружение; в дополнение к остальному окружению, в модель следует ввести некоторое количество учителей, по крайней мере, на ранних этапах развития роботов, и хотя бы для того, чтобы все роботы одинаково понимали строгий смысл присвоения тому или иному утверждению статуса . В моделируемый нами ансамбль войдут на правах различных экземпляров все возможные различные варианты поведения всехроботов, а также все возможные (релевантные) варианты остального окружения и предоставляемых человеком сведений, варьирующиеся в зависимости от конкретного выбора задействованных в модели случайных параметров. Как и ранее, правила, по которым будет функционировать наша модель (и которые я опять обозначу буквой M), можно полагать в полной мере познаваемыми, невзирая на необычайную сложность всех сопутствующих расчетов, необходимых для ее практической реализации.

Предположим, что мы берем на заметку все (в принципе) ₁– высказывания, -утверждаемые (а также все высказывания с -утвержденными отрицаниями) любым из всевозможных экземпляров наших (вычислительно моделируемых) роботов. Объединим все подобные -утверждения в отдельную группу и назовем их безошибочными. Далее, мы можем потребовать, чтобы любое -утверждение относительно того или иного ₁– высказывания игнорировалось, если в течение некоторого промежутка времени T(в прошлом или в будущем) количество rразличных экземпляров этого -утверждения в ансамбле из всех одновременно действующих роботов не удовлетворит неравенству r> L+ Ns, где Lи Nсуть некоторые достаточно большие числа, а s— количество -утверждений, производимых в течение того же промежутка времени и занимающих относительно рассматриваемого ₁– высказывания противоположную позицию либо просто утверждающих, что рассуждения, на которые опирается исходное -утверждение, ошибочны. При желании мы можем настаивать на том, чтобы промежуток времени T(это время не обязательно должно совпадать с «реальным» моделируемым временем и может измеряться в некоторых единицах вычислительной активности), равно как и числа Lи N. увеличивался по мере увеличения «сложности» -утверждаемого ₁– высказывания.

Понятию «сложности» применительно к ₁– высказываниям можно придать точный характер на основании спецификаций машины Тьюринга, как мы это уже делали в §2.6 (в конце комментария к возражению Q8). Для большей конкретности мы можем воспользоваться явными формулировками, представленными в НРК (глава 2), как вкратце показано в приложении А (а это уже здесь). Итак, степенью сложности ₁– высказывания, утверждающего незавершаемость вычисления T _m( n) машины Тьюринга, мы будем полагать число знаков в двоичном представлении большего из пары чисел mи n.

Причина введения в данное рассуждение числа L— вместо того чтобы удовлетвориться какой-нибудь огромной величиной в лице одного лишь коэффициента N, — заключается в необходимости учета следующей возможности. Предположим, что внутри нашего ансамбля, благодаря редчайшей случайности, появляется «безумный» робот, который формулирует какое-нибудь абсолютно нелепое -утверждение, ничего не сообщая о нем остальным роботам, причем нелепость этого утверждения настолько велика, что ни одному из роботов никогда не придет в «голову» — хотя бы просто на всякий случай — сформулировать его опровержение. В отсутствие числа Lтакое -утверждение автоматически попадет, в соответствии с нашими критериями, в группу «безошибочных». Введение же достаточно большого Lтакую ситуацию предотвратит — при условии, разумеется, что подобное «безумие» возникает среди роботов не часто. (Вполне возможно, что я упустил из виду еще что-нибудь, и необходимо будет позаботиться о каких-то дополнительных мерах предосторожности. Представляется разумным, однако, по крайней мере на данный момент, ограничиться критериями, предложенными выше.)

Учитывая, что все -утверждения, согласно исходному допущению, следует полагать «неопровержимыми» заявлениями нашего робота (основанными на, по всей видимости, присущих роботу четких логических принципах и посему не содержащими ничего такого, в чем робот испытывает хотя бы малейшее сомнение), то вполне разумным представляется предположение, что вышеописанным образом действительно можно устранить редкие промахи в рассуждениях робота, причем функции T, L и N вряд ли окажутся чем-то из ряда вон выходящим. Предположив, что все так и есть, мы опять получаем не что иное, как вычислительнуюсистему — систему познаваемую(в том смысле, что познаваемыми являются лежащие в основе системы правила) при условии познаваемости исходного набора механизмов M, определяющего поведение нашего робота. Эта вычислительная система дает нам новую формальную систему Q'( M) (также познаваемую), теоремами которой являются те самые безошибочные– утверждения (либо утверждения, выводимые из них посредством простых логических операций исчисления предикатов).

Вообще говоря, для нас с вами важно не столько то, что эти утверждения действительнобезошибочны, сколько то, что в их безошибочности убежденысами роботы (для приверженцев точки зрения Bособо оговоримся, что концепцию роботовой «убежденности» следует понимать в чисто операционном смысле моделированияроботом этой самой убежденности, см. §§3.12 , 3.17 ).

Если точнее, то нам требуется, чтобы робот был готов поверить в то, что упомянутые -утверждения действительно безошибочны, исходя из допущения, что именно набором механизмов Mи определяется его поведение (гипотеза Mиз §3.16 ). До сих пор, в данном разделе, мы занимались исключительно устранением ошибок в -утверждениях робота. Однако, на самом деле, ввиду представленного в §3.16 фундаментального противоречия, нас интересует устранение ошибок в его _M – утверждениях, т.е. в тех ₁– высказываниях, что по неопровержимой убежденности робота следуют из гипотезы M. Поскольку принятие роботами формальной системы Q'( M) в любом случае обусловлено гипотезой M, мы вполне можем предложить им для обдумывания и более обширную формальную систему Q' _M ( M), определяемую аналогично формальной системе Q _M ( M) из §3.16 . Под Q' _M ( M) в данном случае понимается формальная система, построенная из _M – утверждений, «безошибочность» которых установлена в соответствии с вышеописанными критериями T, Lи N. B частности, утверждение «утверждение G( Q' _M ( M)) истинно» считается здесь безошибочным _M – утверждением. Те же рассуждения, что и в §3.16 , приводят нас к выводу, что роботы не смогут принять допущение, что они построены в соответствии с набором механизмов M(вкупе с проверочными критериями T, Lи N), независимо от того, какие именно вычислительные правила Mмы им предложим.

Достаточно ли этих соображений для того, чтобы окончательно удостовериться в наличии противоречия? У читателя, возможно, осталось некое тревожное ощущение — кто знает, вдруг сквозь тщательно расставленные сети, невзирая на все наши старания, проскользнули какие-нибудь ошибочные _M – или -утверждения? В конце концов, приведенные выше рассуждения будут иметь смысл лишь в том случае, если нам удастся исключить абсолютно всеошибочные _M – утверждения (или -утверждения) в отношении ₁– высказываний. Окончательно и бесповоротно удостоверитьсяв истинности утверждения G( Q' _M ( M)) нам (и роботам) поможет обоснованностьформальной системы Q' _M ( M) (обусловленная гипотезой M). Эта самая обоснованность подразумевает, что система Q' _M ( M) ни в коем случаене может содержать таких _M – утверждений, которые являются — или всего лишь предполагаются — ошибочными. Невзирая на все предпринятые меры предосторожности, полной уверенности у нас (да и у роботов, полагаю) все-таки нет — хотя бы по той простой причине, что количество возможных утверждений подобного рода бесконечно.

3.20. Возможность ограничиться конечным числом M – утверждений

Есть, впрочем, возможность именно эту конкретную проблему разрешить и сузить область рассмотрения до конечногомножества различных _M – утверждений. Само доказательство несколько громоздко, однако основная идея заключается в том, что следует рассматривать только те ₁– высказывания, спецификации которых являются «краткими» в некотором вполне определенном смысле. Конкретная степень необходимой «краткости» зависит от того, насколько сложное описание системы механизмов Mнам необходимо. Чем сложнее описание M, тем «длиннее» допускаемые к рассмотрению ₁– высказывания. «Максимальная длина» задается неким числом c, которое можно определить из степени сложности правил, определяющих формальную систему Q' _M ( M). Смысл в том, что при переходе к гёделевскому предположению для этой формальной системы — которую нам, вообще говоря, придется слегка модифицировать — мы получим утверждение, сложность которого будет лишь немногим выше, нежели сложность такой модифицированной системы. Таким образом, проявив должную осторожность при выборе числа c, мы можем добиться того, что и гёделевское предположение будет также «кратким». Это позволит нам получить требуемое противоречие, не выходя за пределы конечного множества «кратких» ₁– высказываний.

Подробнее о том, как это осуществить на практике, мы поговорим в оставшейся части настоящего раздела. Тем из читателей, кого такие подробности не занимают (уверен, таких наберется немало), я рекомендую просто-напросто пропустить весь этот материал.

Нам понадобится несколько модифицировать формальную систему Q' _M ( M), приведя ее к виду Q' _M ( M, c) — для краткости я буду обозначать ее просто как Q( c) (отброшенные обозначения в данной ситуации несущественны и лишь добавляют путаницы и громоздкости). Формальная система Q( c) определяется следующим образом: при построении этой системы допускается принимать в качестве «безошибочных» только те _M – утверждения, степень сложности которых (задаваемая описанным выше числом ) меньше c, где cесть некоторое должным образом выбранное число, подробнее о котором я расскажу чуть ниже. Для «безошибочных» _M – утверждений, удовлетворяющих неравенству < c, я буду использовать обозначение «краткие _M – утверждения». Как и прежде, множество действительных теоремформальной системы Q( c) будет включать в себя не только краткие _M – утверждения, но также и утверждения, получаемые из кратких _M – утверждений посредством стандартных логических операций (позаимствованных, скажем, из исчисления предикатов). Хотя количество теорем системы Q( c) бесконечно, все они выводятся с помощью обыкновенных логических операций из конечногомножества кратких _M – утверждений. Далее, поскольку мы ограничиваем рассмотрение конечным множеством, мы вполне можем допустить, что функции T, L и N постоянны(и принимают, скажем, наибольшие значения на конечном интервале ). Таким образом, формальная система Q( c) задается лишь четырьмя постоянными c, T, L, Nи общей системой механизмов M, определяющих поведение робота.

Отметим существенный для наших рассуждений момент: гёделевская процедура строго фиксированаи не нуждается в увеличении сложности выше некоторого определенного предела. Гёделевским предположением G( H) для формальной системы Hявляется ₁– высказывание, степень сложности которого должна лишь на сравнительно малую величину превышать степень сложности самой системы H, причем эту величину можно определить точно.