Вселенная

* * *

Некоторыми из этих проблем ещё в 1950 году занимался британский математик и информатик Алан Тьюринг. Тьюринг описал так называемую игру в имитацию, более известную под названием «Тест Тьюринга». С восхитительной прямотой Тьюринг начинает статью словами: «Я собираюсь рассмотреть вопрос “Могут ли машины мыслить?”». Но сразу же решает, что подобный вопрос потонул бы в бесконечных спорах о терминологии. Поэтому, в лучших научных традициях, он отбрасывает этот вопрос и заменяет более прикладным: может ли машина беседовать с человеком таким образом, чтобы человек принял эту машину за другого человека? (Самые лучшие философские традиции с упоением увлекли бы нас в споры о терминологии). Тьюринг утверждал, что способность сойти за человека в таком испытании — разумный критерий, определяющий, что такое «думать».

Тест Тьюринга закрепился в нашем культурном лексиконе, и мы регулярно читаем новостные сюжеты о том, что та или иная программа наконец-то прошла тест Тьюринга. Пожалуй, в это сложно не поверить — ведь мы живём в окружении машин, которые рассылают нам электронную почту, управляют нашими автомобилями и даже говорят с нами. На самом деле ни один компьютер и близко не подобрался к прохождению настоящего теста Тьюринга. Те соревнования, о которых пишут в новостях, неизменно устроены так, чтобы собеседники не могли озадачить компьютер таким образом, как предполагал Тьюринг. Вероятно, когда-нибудь мы достигнем такого уровня, но современные машины не «думают» в тьюринговском понимании.

Когда и если нам удастся сконструировать такую машину, которая к почти всеобщему удовлетворению пройдёт тест Тьюринга, мы по-прежнему будем спорить о том, на самом ли деле машина «думает» именно так, как думает человек. Существует проблема сознания, а также смежная с ней проблема «понимания». Неважно, насколько умные беседы сможет вести компьютер, — вопрос в том, сможет ли он по-настоящему понимать, о чём говорит? Если речь зайдёт об эстетике или эмоциях, сможет ли программа, работающая на кремниевом транзисторе, оценить красоту или испытать скорбь, подобно человеку?

Тьюринг догадывался об этом и действительно выдвинул так называемое возражение с точки зрения сознания. Он довольно точно определил эту проблему как различие между точкой зрения «от третьего лица» (как мои действия воспринимают окружающие) и «от первого лица» (как я вижу и понимаю сам себя). Возражение с точки зрения сознания казалось Тьюрингу в конечном счёте солипсическим: единственный способ убедиться в том, что данный человек действительно мыслит, состоит в том, чтобы стать именно этим человеком. Как вы узнаете, что и другие люди в мире обладают сознанием, кроме как по их действиям? Тьюринг предвосхищал идею философского зомби — существа, выглядящего в точности как обычный человек, но не обладающего внутренним опытом, или квалиа.

Тьюринг считал, что, для того чтобы достичь прогресса в этом отношении, нужно сосредоточиться на решении вопросов, на которые можно объективно ответить, наблюдая мир, а не прикрываться рассуждениями о личном опыте, который по определению скрыт от стороннего наблюдателя. С долей очаровательного оптимизма он приходит к выводу о том, что любой, кто глубоко задумается об этих вещах, в конечном итоге с ним согласится: «Большинство из тех, кто поддерживает возражение с точки зрения сознания скорее откажутся от своих взглядов, чем признают солипсистскую точку зрения».

Однако можно утверждать, что о мышлении и сознании нельзя судить извне, но при этом признавать, что остальные люди, вероятно, обладают сознанием. Кто-то может подумать: «Я знаю, что у меня есть сознание, и другие люди похожи на меня, поэтому, вероятно, сознание есть и у них. Однако компьютеры на меня не похожи, поэтому к ним я могу относиться более скептически». Я не думаю, что такая точка зрения правильна, но логически она непротиворечива. Тогда возникает вопрос, на самом ли деле компьютеры настолько от нас отличаются? Правда ли, что такое мышление, которое происходит в моём мозге, качественно отличает его от компьютера? Главный герой Хайнлайна так не думает: «Не вижу никакой разницы, протеиновые это цепи или платиновые».

* * *

«Китайская комната» — это мысленный эксперимент, предложенный американским философом Джоном Сёрлем. Эксперимент призван заострить внимание на том, почему тест Тьюринга, возможно, не позволяет ухватить истинный смысл «мышления» или «понимания». Сёрль предлагает вообразить человека, запертого в комнате с огромными кипами бумаги, причём на каждом листе записан какой-либо китайский текст. В стене есть прорезь, через которую можно передавать листы бумаги, а также имеется набор инструкций в форме справочной таблицы. Человек говорит и читает по-английски, но ни слова не понимает по-китайски. Когда в комнату через прорезь просовывают лист бумаги с каким-то китайским текстом, человек может свериться с инструкциями и выйти на один из имеющихся у него листов бумаги. Затем передать этот лист обратно через прорезь.

Тестируемый даже не догадывается, что на попадающих в комнату листках — абсолютно разумные вопросы на китайском языке, а на тех бумажках, которые он по инструкции должен передавать обратно, — совершенно логичные ответы на китайском, которые мог бы дать обычный мыслящий человек. С точки зрения китайца, находящегося за пределами комнаты, всё выглядит именно так: он задаёт вопросы находящемуся в комнате носителю китайского языка, а тот отвечает ему по-китайски.

Но нам же понятно, говорит Сёрль, что в комнате нет никого, кто понимал бы китайский. Там есть только англоговорящий человек, кипы бумаги и исчерпывающий набор инструкций. По-видимому, комната позволяет пройти тест Тьюринга (на китайском языке), но о реальном понимании речь не идёт. Изначально Сёрль ставил перед собой цель исследовать искусственный интеллект, который, на его взгляд, никогда не смог бы достичь истинно человеческого уровня мышления. Компьютер, пытающийся пройти тест Тьюринга, подобен человеку в китайской комнате: он может манипулировать символами, создавая иллюзию понимания, но никакого реального осознания здесь нет.

Мысленный эксперимент Сёрля активно комментируют, как правило стараясь опровергнуть его точку зрения. Простейший контраргумент кажется вполне веским: разумеется, нельзя сказать, что человек в комнате понимает китайский, но китайский язык понятен совокупной системе «человек плюс набор инструкций». Как и Тьюринг с возражением от сознания, Сёрль предвидел появление этого аргумента и затронул его в своей оригинальной статье. Он был не слишком впечатлён:

Я имею в виду идею о том, что хотя индивид и не понимает китайского, но некое соединение индивида с листами бумаги китайский понять может. Мне сложно вообразить, что кто-то также может посчитать эту идею правдоподобной.

Как и во многих подобных мысленных экспериментах, первое условие Китайской комнаты — существование неких листов бумаги и пособия с инструкциями, позволяющими сымитировать человеческую коммуникацию, — это головная боль. Если в пособии буквально даётся всего один ответ на любой возможный вопрос, то комната никогда не пройдёт тест Тьюринга при контакте со сколь-нибудь компетентным собеседником-человеком. Рассмотрим такие вопросы: «Как дела?», «Почему вы так говорите?», «Не могли бы вы рассказать подробнее?». Многие человеческие беседы просто не строятся по принципу «предложение за предложением»; они зависят от контекста и от того, о чём шла речь раньше. На «листках бумаги» должен быть как минимум предусмотрен какой-то способ хранения информации, а также система для обработки информации, которая позволила бы интегрировать зафиксированную информацию в текущий разговор. Представить подобное вполне возможно, однако тогда мы получаем гораздо более сложную систему, нежели кипу бумаги и книгу с инструкциями.

С точки зрения Сёрля, неважно, какие элементы мы включим в данную «систему», — она в любом виде не позволит достичь понимания в полном смысле. Однако эксперимент с Китайской комнатой не позволяет однозначно аргументировать это утверждение. Он иллюстрирует точку зрения, согласно которой «понимание» — это концепция, не сводимая к обычной физической корреляции между вводом и выводом; понимание требует чего-то ещё, то есть такого смысла, в котором происходящее в системе действительно «описывает» обсуждаемую тему. С точки зрения поэтического натурализма «содержательность» не является неким метафизическим качеством, которым может обладать информация; это просто удобный способ рассуждения о корреляциях между различными элементами физического мира.