Наше постчеловеческое будущее: Последствия биотехнологической революции
Шрифт:
Аналогично многие исследователи в области искусственного интеллекта обходят вопрос о сознании путем фактической подмены темы. Они предполагают, что мозг есть просто органический компьютер большой сложности, который можно идентифицировать внешними характеристиками. Известный тест Тьюринга утверждает, что если машина может выполнять познавательные задачи, такие как поддержание беседы так, чтобы внешне это нельзя было отличить от тех же действий, совершаемых человеком, то внутренне она тоже от человека отличаться не будет. Почему это должно быть адекватным тестом ментальности человека — загадка, поскольку машина точно не будет иметь никакого субъективного осознания своих действий, как и связанных с ними чувств(Критика этого подхода содержится у Сирла в его загадке "Китайская комната", где поднимается вопрос, можно ли сказать, что компьютер понимает китайский язык лучше, чем не говорящий по-китайски человек, сидящий в запертой комнате и получающий инструкции, как обрабатывать ряд символов китайского языка. См. Searle (1997), р. 11. — Примеч. автора.). Это не мешает таким авторам, как Ганс Моравец [301] и Рей Курцвайль [302] , предсказывать, что машины, достигнув должного уровня сложности, получат и такие человеческие
301
Hans P. Moravec, Robot: Mere Machine to Transcendent Mind (New York: Oxford University Press, 1999).
302
Ray Kurzweil, The Age of Spiritual Machines: When Computer Exceed Human Intelligence (London: Penguin Books, 2000).
303
ритику этого положения см.: Colin McGinn, "Hello HAL", The New York Times Book Review, January 3, 1999.
Вероятность, что это случится, кажется весьма далекой, и не столько потому что машины никогда не смогут иметь разум, равный человеческому (я подозреваю, что в этом отношении они подойдут к нему весьма близко), но потому что невозможно вообразить, будто они обретут человеческие эмоции. Это в научной фантастике андроид, робот или компьютер вдруг начинают испытывать страх, надежду и даже половое влечение, но никто еще и близко не подошел к объяснению, как такое может случиться. Проблема здесь не только в том, что никто еще не понял, что представляют собой эмоции (как и сознание) онтологически; никто не понял, почему они начали существовать в биологии человека.
Конечно, есть функциональные причины для существования таких эмоций, как боль и удовольствие. Если бы секс не был нам приятен, мы бы не стали размножаться, а если бы мы не испытывали боль от огня, мы бы то и дело обжигались. Но в современном течении науки о познании считается, что конкретная субъективная форма, принимаемая эмоциями, не является необходимой для их функций. Вполне возможно, например, построить робота, у которого датчики в пальцах будут соединены с актуатором, убирающим руку робота от огня. Робот сможет предотвратить сгорание пальцев без всякого чувства боли и будет способен принимать решения, какие цели преследовать и каких действий избегать, путем математической обработки входных сигналов от разных датчиков. Тест Тьюринга скажет нам, что он по своему поведению — человек, но на самом деле этот робот будет лишен самого важного свойства человека — чувств. Конкретная субъективная форма, которую принимают эмоции, в современной биологии и теории познания рассматривается всего лишь как эпифеномен функций, на которых они основаны: нет никаких объективных причин, чтобы именно такая их форма должна была быть выбрана в процессе эволюционной истории [304] .
304
Критику этого положения см.: Colin McGinn, "Hello HAL", The New York Times Book Review, January 3, 1999.
Как указывает Роберт Райт, это ведет к весьма парадоксальному выводу; то, что наиболее важно для нас как для людей, не имеет явной цели в материальной схеме вещей, которые делают нас людьми [305] . Ибо только человека отличает гамма эмоций, которые порождают цели, назначение, стремления, желания, страхи, отвращения человека, и потому они — источники человеческих ценностей. Хотя многие включили бы разум человека и его способность к нравственному выбору в список наиболее важных отличительных его свойств, я бы возразил, что полная гамма человеческих эмоций важна по крайней мере столь же, если не больше.
305
По этому поводу см.: Wright (2000), pp. 306–308.
Политолог-теоретик Роберт Мак-Ши демонстрирует важность эмоций человека для нашего исходящего из здравого смысла понимания того, что значит быть человеком, предлагая выполнить следующий мысленный эксперимент [306] . Допустим, что вы на необитаемом острове встречаете два создания, каждое из которых обладает умственными способностями человека и потому способно вести разговор. Первое имеет внешний облик льва, но эмоции человека, второе — внешний вид человека, но эмоциональные характеристики льва. С каким из них вам будет уютнее, с кем из них вы скорее подружитесь или вступите в какие-то моральные взаимоотношения? Ответ, как предполагают бесчисленные детские книжки, симпатизирующие львам, будет лев, поскольку видоспецифичные человеческие эмоции важнее для нашего ощущения человечности, чем разум или внешний вид. Холодно-аналитичный мистер Спок в телевизионном сериале "Звездный путь" иногда кажется приятнее эмоционального мистера Скотта только потому, что мы подозреваем, что глубоко под его рациональной внешностью кроется человеческое чувство. И наверняка много можно найти в этом сериале женских персонажей, надеющихся добиться от него большего, чем реакции робота.
306
Robert J. McShea, Morality and Human Nature: A New Route to Ethical Theory (Philadelphia: Temple University Press, 1990), p. 77.
С другой стороны, мистера Спока, лишенного на самом деле любых эмоций, мы бы сочли психопатом или чудовищем. Если бы он сулил нам выгоду, мы могли бы принять ее, но не испытывали бы благодарности, поскольку знали бы, что это с его стороны результат рационального расчета, а не добрая воля. Если бы мы его объегорили, то не чувствовали бы вины, поскольку знаем, что он не способен испытывать чувства гнева или обиды за предательство. И если бы обстоятельства заставили нас убить его ради собственного спасения или пожертвовать его жизнью, будь он заложником, мы бы жалели не более чем при потере любого ценного имущества, автомобиля или телепортатора [307] . Даже если бы мы захотели сотрудничать с этим мистером Споком, мы бы не считали его существом, действующим под влиянием морали, и не думали бы, что ему полагается такое же уважение, как людям. Компьютерные фанаты в лабораториях AI, которые считают сами себя всего лишь более сложными компьютерными программами и хотят загрузить себя в компьютер, должны поостеречься, ибо всем будет безразлично, если их потом выключат навеки.
307
В Consciousness Explained
Дэниел Деннетт делает следующее парадоксальное заявление: "Но позволительно спросить: почему должны что-то значить невыполненные желания какого-либо существа, если это не сознательные желания? Я отвечу: а почему должно больше значить, если они сознательные, особенно если сознание — такое свойство, которое никак не поддается исследованию? Почему разбитые надежды "зомби" значат меньше, чем разбитые надежды сознательного существа? Здесь какой-то фокус с зеркалами, и эти зеркала надо найти и убрать. Сознание, говорите вы, — вот что имеет значение, но сами вы цепляетесь за учения о сознании, которые систематически мешают нам хоть как-то догадаться, почему оно что-то значит" (р. 450). Вопрос Деннетта тут же вызывает очередной вопрос: будет ли хоть одному человеку в мире не наплевать на разбитые надежды зомби — кроме случая, конечно, когда данный зомби был этому человеку полезен?Так что есть много такого, что проходит совместно под рубрикой сознания и что помогает определить специфичность, а потому и достоинство человека, но что тем не менее не может в данный момент быть полностью истолковано наукой. Недостаточно сказать, что у каких-то животных есть сознание, или культура, или язык, поскольку их сознание не сочетает человеческий разум, человеческий язык, человеческий нравственный выбор и человеческие эмоции таким образом, что они способны порождать человеческую политику, человеческое искусство или человеческую религию. Все предтечи человека в этих человеческих свойствах, существовавшие в процессе эволюции, и все материальные причины и условия их возникновения вместе составляют существенно меньше, чем человек в целом. Джеред Дайамонд в книге "Третий шимпанзе" замечает тот факт, что геномы человека и шимпанзе перекрываются более чем на 98 %, а это подразумевает, что разница между этими двумя видами относительно несущественна [308] . Но для возникающей сложной системы малое различие может повести к огромным качественным изменениям. Это как сказать, что нет существенной разницы между льдом и водой, поскольку они различаются только температурой в один градус.
308
Jared Diamond, The Third Chimpanzee (New York: HarperCollins, 1992), p. 23.
Так что не обязательно соглашаться с Папой насчет того, что именно Бог вложил в человека душу в процессе эволюционной истории, чтобы признать вместе с ним, что в какой-то момент этого процесса произошел очень важный качественный, если не онтологический скачок. Этот скачок — переход от частей к целому, которое в конечном счете должно составить основу человеческого достоинства, — концепции, в которую можно поверить, даже если не исходить из общих с Папой религиозных предпосылок.
Что такое это целое и как оно появилось, остается, по словам Сирла, "таинственным". Ни одна из ветвей современной науки, обращавшихся к этому вопросу, не копнула глубже самой поверхности, вопреки вере многих ученых, что они сняли мистический покров с процесса в целом. Для многих специалистов по AI общим является мнение, что сознание есть "возникающее свойство" определенного вида сложных компьютеров. Но это не более чем недоказанная гипотеза, основанная на аналогии с другими сложными системами. Никто никогда еще не видел возникновения сознания в эксперименте и даже не предложил теории, как это может произойти. Было бы удивительно, если бы процесс "возникновения" не играл важной роли в объяснении того, как люди стали людьми, но только ли в нем дело — мы сейчас не знаем.
Все это не значит, что демистификация сознания научными средствами никогда не произойдет. Сам Сирл верит, что сознание есть биологическое свойство мозга, весьма похожее на передачу сигнала по нейронам или на выработку нейромедиаторов, и что биология когда-нибудь сможет объяснить, как органическая материя его производит. Он утверждает, что наши теперешние проблемы в понимании сознания не требуют от нас принятия дуалистической онтологии или отказа от научной схемы материальной причинности. Проблема возникновения сознания не требует обращения к прямому вмешательству Бога.
Но и не исключает его.
За что бороться
Если то, что дает нам достоинство и моральный статус, высший по сравнению с другими животными, связано с фактом, что мы — сложные целые, а не просто сумма частей, то ясно, что нет простого ответа на вопрос, что такое "Фактор икс". То есть "Фактор икс" не может быть сведен к наличию нравственного выбора, или разума, или языка, или социабельности, или рассудка, или эмоций, или сознания, или любого другого качества, которое выдвигалось как основа человеческого достоинства. Каждый представитель вида "человек разумный" обладает генетически заложенными способностями, позволяющими ему стать цельным человеком, способностями, которые по сути отличают человека от других созданий.
Минутное размышление показывает, что нет таких ключевых свойств, образующих человеческое достоинство, которые могут существовать отдельно от других. Например, рассудок человека отличается от рассудка компьютера; он пропитан эмоциями, и фактически именно они делают возможным его функционирование [309] . Нравственный выбор не существует в отсутствии разума, тут и говорить не о чем, но он также основан на таких чувствах, как гордость, гнев, стыд и сочувствие [310] . Человеческое сознание — не просто индивидуальные предпочтения и утилитарный рассудок, но оно формируется интерсубъектно другими сознаниями и их нравственными оценками. Мы — животные общественные и политические не просто потому, что способны на теоретико-игровое мышление, но потому, что мы наделены определенными общественными эмоциями. Разум человека не таков, как у свиньи или лошади, потому что он сочетается с человеческой памятью и рассудком.
309
Дуализм между рассудком и эмоциями — то есть идею, что они являются различными и отделимыми ментальными свойствами — можно проследить до Декарта (см.: "Страсти души", раздел 47). Эта дихотомия стала с тех пор общепринятой, но она может во многих отношениях вводить в заблуждение. Нейрофизиолог Антонио Дамасио указывает, что в рассуждениях человека обязательно есть то, что он называет соматическими маркерами, — эмоции, которые разум придает определенным идеям или вариантам в процессе обдумывания проблемы, — и это позволяет ускорить многие виды расчетов. Antonio R. Damasio, Decartes ' Error: Emotion, Reason, and the Human Brain (New York: Putnam, 1994).
310
To есть кантианское представление, что нравственный выбор есть акт чистого разума, преодолевающего или подавляющего естественные эмоции, неверно: люди на самом деле совершают нравственный выбор не так. Более обычно для человека противопоставлять одному набору эмоций другой и вырабатывать характер, усиливая приятность правильного нравственного выбора путем привычки.