Молох (сборник)

Пенроуз является авторитетным ученым в области физики, однако, как говорят критики, это не дает ему права на подобные предположения. Я вспоминаю об этом потому, что наше сознание — это белое пятно в сфере познания, и сегодня не менее загадочное, чем сто или пятьсот лет назад. Упрощая, можно поделить всех, кто (в прошлом или настоящем) занимался разгадыванием психологии человека, особо выделяя сознание, интеллект, разум, проницательность или же сообразительность, на тех, кто давал толковые разъяснения вышеприведенных человеческих качеств, и на тех, кто считал, что мы никогда не найдем ключи ко всему собранию этих тайн. В последнее время довольно много говорили о последних результатах исследования мозга Эйнштейна, отличающегося значительными размерами теменных (париетальных) долей. Однако нет оснований утверждать, что гениальность Эйнштейна была следствием лишь этой исключительной макроскопической особенности его мозга.

В настоящее время, после успешного клонирования овцы, после обнаружения принципиальной способности материнских клеток ( stem cells), как тотипотентных, к клонированию как целого организма, так и его фрагментов, открылся простор для интенсивного и не всегда оправданного гипотезотворчества. Поскольку невозможно, взяв крылообразующие гены от самых больших птиц, передать нашему потомству умение летать, то эта придуманная проблема, будучи неосуществимой, не дает оснований для биоэтического анализа. Поэтому мы не рассуждаем, стоит ли переделать людей в ангелов, ибо это невозможно. Вся тяжесть моральных решений с сфере биоэтики ляжет на нас, когда у давнишних фантазий появится шанс осуществиться. Клонирование, уже опробованное на различных видах полезных растений и домашних животных, относительно человеческого рода находит одновременно и категорических противников, и энтузиастов-сторонников. В результате этого даются разные ответы на вопрос, можно ли клонировать людей: клонировать непосредственно или по крайней мере начать создание различных банков человеческих органов. Наряду с этой основной проблемой появляется множество сопутствующих и не менее важных, например животрепещущий вопрос: можно ли использовать сперму умершего мужчины для оплодотворения его жены, точнее, вдовы, если она выражает такое желание. Здесь также уже стало очевидным лобовое столкновение ответа «можно» с «ни за что на свете». Одни считают, что людей нельзя лишить права на оплодотворение, делающее возможным посмертное размножение, но и лагерь противников не ограничивается исключительно представителями различных религий.

Очередной проблемой является допустимая граница автоэволюционного улучшения человека или хотя бы улучшения наследственности человека. Некоторые выступают против всяческих генетических усовершенствований, ссылаясь, например, на то, что раз уж композитор Гендель был эпилептиком, то нельзя удалять даже гены, развитие которых ведет к эпилепсии. Эту беседу надо начать со следующего сравнения: буквенным алфавитом пользуются все европейцы, латинским алфавитом пользовался как Шекспир, так и какой-нибудь графоман. Однако из того факта, что из букв можно составлять как гипотезы уровня Коперника, так и всякие глупости и нелепости, не может следовать утверждение о равнозначности и равноценности всего, что удается сложить из букв. Уже объявлено о скором завершении расшифровки всего человеческого генома, однако распознавание миллиардов нуклеотидов, определяющих нашу наследственность, не приведет сразу к пониманию того, как весь этот биохимический букварь определяет возникновение физических и психических черт у человеческих эмбрионов. Дорога, которую мы должны пройти для распознавания диапазона действия и вида функций генов, будет очень длинной. Известно, что два генома, состоящих из тождественных нуклеотидов, не дают одинаковые эффекты развития, поскольку важную, а порой решающую роль играет расположение нуклеотида или их групп в хромосомной нити. Люди часто бывают простаками и глупцами, но всем присуща удивительная сложность устройства, обязанная антропогенетической эволюции. Правду говоря, задачи, стоящие перед инженерами или композиторами будущих геномов, деятельность которых я в одной из своих статей назвал «плодотворящей работой», не только будут подвергаться этическим оценкам и запретам, но также будут необычайно сложными с научно-технической стороны.

Мы находимся в начале трудного, опасного и прекрасного пути. Если бы даже оказалось, что бесчисленное множество нуклеотидов, сформировавшихся в поколениях людей за многие века, в своем развитии может приносить только вред, если бы, следовательно, удаление таких генов означало бы прежде всего улучшение качества наследственных черт, то такая польза была бы скорее благородным, но скромным вступлением к дальнейшим исследованиям. На цветных обложках журналов уже появляются портреты прекрасных самцов и чарующих самок нашего вида, словно уроки антропологической оптимизации уже получены и усвоены. Но это совсем не так. Действительно, стаи писак, не особенно считающихся с ответственностью за провозглашенные идеи, засыпают нас множеством голословных обещаний. Так, например, должно начаться «производство» феноменальных атлетов, артистов, математических гениев, одаренных уже в утробе матери или даже в так называемом утераторе, который должен стать искусственной маткой со всей массой магических достоинств и способностей. До определенной степени родители уже сейчас могут задать пол своих потомков. Задолго до начала эры клонирования стали возникать банки спермы таких выдающихся личностей, как лауреаты Нобелевской премии. Это было неимоверно рискованно. Одну из трудностей, возникающих перед композиторами наследственных черт, легко продемонстрировать на следующем примере. Если после перетасовки и раздачи колоды карты вдруг лягут так, что каждый из игроков в бридж будет иметь на руках только одну масть, то после розыгрыша партии и новой перетасовки карт ни на какие следы «наследования» одной масти рассчитывать нельзя. Подобное происходит с человеческими генотипами. Как известно, в семье Баха, в восходящих линиях, было довольно много органистов, и какие-то гены подверглись кумуляции, плодом которой оказался знаменитый композитор. Однако, с другой стороны, нам ничего не известно о том, чтобы родители или предки Альберта Эйнштейна отличались особыми способностями, которые могли бы передаться создателю теории относительности. Тщательные статистические исследования на большом материале нескольких человеческих поколений не дали однозначных результатов, поскольку не каждый одаренный особыми способностями человек признавался окружением таковым. Мой отец во Львове выписывал книги лауреатов Нобелевской премии по литературе, но вначале шведские академики Нобелевской премией награждали преимущественно шведов. Так, например, о шведском писателе по фамилии Хейденстам сегодня никто не помнит. Таким образом, мы не располагаем никакой однозначной шкалой измерения особо достойных признания психических или же физических черт человека или, иначе говоря, если нет возможности сравнивать людей какой-то одной меркой, то нельзя, следовательно, браться за рассуждения, считать ли лучшим ребенком будущего покорителя высочайших горных вершин или скорее известного дирижера или сатирика. Естественный разброс, существующий в человеческом генофонде, оценить трудно, поэтому классическая дилемма « nature or nurture», то есть врожденные черты против приобретенных, все еще остается в силе. Как правило, к сожалению, в наиболее выраженной форме наследуются доминирующие гены с высокой вредностью, вплоть до смертельных, например, ген, вызывающий муковисцидоз, приводящий к смерти в молодом возрасте. Мы знаем также, что отдельные аллели, так же, как их группы, могут приводить к возникновению качеств и полезных, и одновременно вредных. Известно и то, что гениальность не наследуется иначе, как только через культурное влияние. В психобиологии есть множество примеров людей, известных в науке или искусстве, интеллект потомства которых был ниже среднего или оно вообще имело психические отклонения. Эта область очень запутана, и поэтому следовало бы пожелать себе, чтобы будущее законодательство разрешало кандидатам в родители лишь такое хирургическое генетическое вмешательство, которое сможет удалять только вредные фрагменты генома.

Во всех вышеприведенных рассуждениях я даже не коснулся основной проблемы, а именно — эволюционной, разветвленной, запутанной дороги, которой прошли в течение нескольких миллионов лет Приматы ( Primates), чтобы стабилизироваться в виде Homo sapiens sapiens. Вымерших видов было очень много, но и в отношении только одного, близкого нам, неандертальца преобладали и не исчезли до сегодняшнего дня противоречивые взгляды. Однако в последнее время приоритетной стала версия, согласно которой неандерталец, наделенный мозгом большим, чем наш, сосуществовал с человеком разумным ( sapiens) в течение по меньшей мере нескольких десятков тысяч лет. Исследования же костных частиц черепов неандертальцев наводят на мысль, что это прачеловек, который уже занимался искусством и овладел даром речи. Версия, провозглашающая, что якобы наши предки истребили неандертальскую ветвь, уступает мнению, что homo neandertalensisскрестился с нашими предками каких-то сто тысяч лет назад.

Вышеприведенный вывод очень важен, ибо позволяет констатировать все еще существующую недостаточность нашего знания о прошлом прачеловеческого рода, и, следовательно, то, что мы сумели бы сегодня сказать о человеке будущего, который овладеет собственной эволюцией, еще менее заслуживает доверия. Всяческие восхитительные и устрашающие «если бы» — преждевременные выводы авторов безответственных сенсаций. Фактом является то, что человек как вид сможет не только овладеть собой, но сможет и формировать себя. А какие это даст плоды, покажет только наступающее столетие.

Интеллект, разум, мудрость [308]

Смысловые диапазоны вышеприведенных понятий весьма существенно различаются. В моем понимании наиболее безличностным является интеллект, и потому именно его пытаются сконструировать все те, кто считает это возможным. Учитывая, что изменения, обусловленные течением времени, делают наши достижения относительными, я не намерен, как говорил Шекспир, проходить между остриями шпаг фехтовальщиков, поскольку считаю себя, согласно его вокабулярию, существом посредственным. Дело в том, что в вопросе искусственного интеллекта и метаматематики я являюсь не платоником, а скорее натуралистом. Это означает, что для конструирования годятся предметы исключительно конструируемые, то есть такие, как великое творение, называемое математикой, и как данная нам способность, называемая интеллектом. Мне кажется, что эмоциональная составляющая в понятии разума значительно больше, чем в случае с интеллектом, и поэтому полностью безличностный или даже внеличностный разум, очевидно, реализовать будет труднее. В книге «Голем XIV» из этой дилеммы мне удалось выпутаться таким образом, что машина, являющаяся воплощением человекоподобного интеллекта, сможет также создавать себе различные индивидуальные резервы. Что касается мудрости, ей должна быть присуща намного большая доза надежной доброжелательности, означающей моральные ценности, гибкое постоянство мнений и суждений.

308

Inteligencja, rozum, madrosc, 2000. © Перевод. Язневич В.И., 2002

Я прочел множество трудов и книг, абсолютизирующих возможность создания внечеловеческого интеллекта, но и не меньшее число неплохо мотивированных обоснований, в которых авторы пытаются доказать читателям, что эта концепция не может быть и никогда не будет реализована. Поистине трудно возвыситься над массой столь противоречивых и столь компетентно доказываемых мнений. Следует быть скромным, поскольку мы идем по дороге, пролегающей невдалеке от нейронных сетей, и уже знаем, что поставленная метазадача оказывается тем труднее для осуществления, чем дальше по этой дороге мы продвигаемся. Вместе с тем мы знаем, что здесь речь идет о чрезвычайно сложной конструкции, считающейся наиболее сложной во всей Вселенной и потому, когда речь идет об искусственном интеллекте, следует благоразумно ограничиться парой простых образных метафор. Было время, не столь уж давнее, когда утверждение невозможности покорения человеком высочайшей вершины Гималаев без использования кислородных аппаратов считалось неоспоримым. Всего лишь через несколько лет после появления этого столь радикального суждения Эверест не только был покорен, но к сегодняшнему дню на него уже многократно взбирались без кислородной поддержки. Мы также знаем, что это не организм человека оказался способным на протяжении нескольких лет измениться до такой степени, что гималайские восхождения стали общедоступными, а упорство в достижении поставленных высоких целей дало хорошие результаты. Я рассказываю о том, что мы не понимаем толком, так же, как не понимаем, почему злокачественные новообразования, не только возникшие в одном месте человеческого организма, но и такие, которые дали уже множественные метастазы, в разных случаях и у различных людей имеют абсолютно неожиданный финал. Бывает, что врач встречает бывшего пациента, по всем медицинским показаниям считавшегося скорым покойником, прогуливающимся по парку в полном здравии. Почему одним удается ускользнуть из-под лопаты гробовщика, а другим — нет, остается загадкой, о которой, по правде говоря, медицина предпочитает вспоминать не слишком часто.

Третий образ, относящийся к вопросу о возможности конструирования искусственного интеллекта, также касается медицины, но является по крайней мере более понятным. В настоящее время уже практикуются хирургические операции, требующие столь изощренной деликатности, что руки лучших хирургов не могут с ними справиться. Тогда человека заменяет соответствующий робот, управляемый программой и манипулирующий хирургическими инструментами. Речь идет о сфере, пока находящейся в рамках довольно узкой специализации, и от нее еще далеко до нано-, пико— и фемтоинженерии, то есть до искусства манипулирования, соединения и разложения отдельных молекул до сих пор не существующих полимеров, а также мельчайших элементов, из которых складываются жизненные процессы. При этом следует иметь в виду, что усилие, затраченное эволюционными процессами на такого рода производство, вовсе не должно быть чем-то, что мы не можем превзойти и перешагнуть. Мое антропоморфическое заключение в последнем предложении — следствие недостаточного еще богатства нашей биотехнологической лексики. Открытия, процессы или архитектоника, спустившиеся до атомного уровня материи, вынуждают нас придумывать многочисленные новые названия так же, как происходило тогда, когда электронная связь вместе с базами экспертной информации начали очаровывать людей и овладевать их миром. На пороге XXI столетия мы просто погребены под лавиной новостей о поразительном множестве продуктов, выброшенных производителями электроники на рынок, и нас поощряют к потреблению плодов этого Древа Новостей. Как известно, в раю Змею удалось уговорить наших прародителей попробовать яблоко, что им дорого стоило. Сейчас нам предлагают настоящие сады электронных райских яблочек, что неизбежно будет иметь как хорошие, так и плохие последствия, поскольку такова двойственная природа вещей. Все же не бессмысленным было бы напоминание, что на протяжении последних двухсот с небольшим лет на арене человеческой истории выступали вновь открываемые и используемые технологии в могучем блеске обещаний нас изрядно осчастливить. Каждое открытие оказывалось сенсацией, был ли это фонограф, или телефон, или первый подводный кабель, соединивший Европу с Америкой, или воздушный шар, или самолет. Все эти поочередно открываемые элементы расширяющейся техносферы человека послужили затем усовершенствованию как экономических, так и военных достижений человечества. Сейчас ученые, а в особенности исследователи микромира (в частности — квантового), не пользуются ни всеобщей известностью, ни широко простирающейся славой. Сегодня средства массовой информации прославляют скорее звезд экрана. Однако телесные прелести исчезают, а в то же время в науке происходит нарастающее ускорение, как у автокаталитического процесса. Поэтому возможно, что мы не раскроем в надвигающемся тысячелетии тайну интеллекта, но зато сумеем сымитировать его так удачно, что окруженные легионами и сонмами имитаций все сильнее будем попадать под их заботливую опеку. Это означает, что суверенность личностей будет одновременно и парадоксально усиливаться и уменьшаться, и параллельно свое настоящее обличье начнет проявлять так называемая глобализация. Глобализация есть не что иное, как ограничение суверенитета отдельных государств для защиты их от серьезных катастроф, перенаправление которых одними обществами на другие является любимой забавой людей, особенно находящихся у власти, поэтому необходимость во всемирном правительстве будет возрастать. Доминиканец Дюбарле, приветствовавший появление книги Норберта Винера о кибернетике в 1948 году статьей, где представлена возможность появления уже не фантастической машины для управления, будет иметь, вероятно, как пропагандистов, так и противников — антимашинных террористов, поскольку не только в единственном числе one man’s meat is another man’s poison. [309]

309

что одному пища, то другому яд (англ.).

Из моря статей, пытающихся осветить будущее, я выбираю одну из английского еженедельника « New Scientist», разрекламированную на обложке, в которой говорится, что каждый может стать гением. Из самой же статьи я узнаю, что дети, страдающие аутизмом, или иначе — умственно отсталые, иногда могут по способностям в какой-нибудь одной области быть на голову выше обычных людей. Собственно говоря, речь идет о явлении, изученном и описанном в психологической литературе как особый вид чрезвычайной психической работоспособности молодого индивида с очень низким общим уровнем интеллекта. Конкретно речь идет о феноменальных вычислителях, способных соревноваться с математическими машинами, об эйдетиках, которые, бросив взгляд на страницу, могут процитировать весь помещенный на ней текст, будто сфотографировав его. Подобные явления могут быть также сродни отдельным и редким талантам в области игр, особенно шахмат. О действительных основах такого рода феноменов, которые могут гордиться узкими, часто интуитивными способностями, мы знаем очень мало. Может быть, главная трудность познания сводится к тому, что человеческий разум охватывается сознанием и (что особенно проявляется у творцов, но в некоторой мере и у всех людей) уступает на пороге сознания визуализации или вербализации, после чего только на следующем этапе умственной деятельности оказывается введенным в поле сознания. Я не знаю, являюсь ли я характерным примером, но большинство моих беллетристических произведений писались в этом понимании «сами», я писал, не зная заранее ни сюжетной схемы, ни ее узловых мест, ни, в конце концов, финала. Таким образом, я писал как будто диктант, и то, что я написал, было мне продиктовано такими функциональными сферами моего мозга, к которым я не имею никакого интроспективного входа. Как правило, таков был созидательный механизм, который я не намерен ни хвалить, ни критиковать, так как мне кажется, что в многообразных вариантах он может быть присущ всем. В особенности в снах, в гипоноических, гипобулических, гипнотических состояниях как будто обособляется какая-то функциональная способность мозга, над эффектами которой очень трудно, если вообще это возможно, взять верх актом воли. Что это значит? Я считаю, что расшифровка таких психических феноменов понемногу обнаружит их тривиальную природу и происхождение. Говоря как можно проще, речь идет о том, что мозг современного человека возникал, формируемый генными мутациями на протяжении последнего миллиона лет, не для того чтобы мы музицировали, рисовали, рифмовали или занимались прозой, или физикой, или философией. Нам уже сейчас известно, как разветвлено и как раскидисто было древо пралюдей-троглодитов, как быстро на нем росли антропоидные ветви, как на боковых линиях или также ветвях появлялись создания, называемые homo afarensis, homo habilis, homo neandertalensis(уже называемый sapiens), как все эти генные мутации формировали тело и мозг, которые в конфронтациях с земным миром, видимо, демонстрировали свою слабую стабильность, некий свой адаптационный недостаток, в результате чего эта генная игра, замирая в отдельных ответвлениях, как бы начинала партию заново, пока наконец не сформировался, как вершина, homo sapiens. Если бы сейчас повторить вкратце вышесказанное, то речь шла просто о чем-то таком, что происходит в мастерской скульптора, который должен смоделировать, будучи глухим и слепым, некую фигуру. Этот скульптор, неоднократно недовольный результатами созидания, опять разминает глину и принимается за следующую попытку. Разумеется, в случае игры, ведущейся между генотипами и фенотипами, должны появляться несравненно более запутанные и во мраке веков уже угаснувшие связи.

Происходило все таким образом, что мозг возникал действительно как целое, но построенное из отдельных модулей, которые не обязательно сразу были согласованы друг с другом функционально, поскольку эту миллионолетнюю антропогенетическую битву никто не проектировал и не контролировал. В результате этого различные умения, размещенные в разных частях мозга, на его различных уровнях, в удивительным образом соединенных центрах и ядрах в различной мере сохраняли свою автономию. В принципе это было действительно подобно, хотя в миллионы раз сложнее, такому тасованию и раздаче карт, при котором слепо и упорно стремятся достичь гомеостатической стабильности. Поэтому также не может быть даже речи о том, что велся один вид игры за человека и что управлял им один вид раздачи. Ответвлений было очень много, были australopithecinae, был pithecanthropus robustus, и это множество тогда сдало экзамен на умение, когда по меньшей мере четверть миллиона лет назад человек, до этого времени живущий толпой, начал жить общественно и размножался, в результате чего расселился по всей Земле. И все же некоторые функционально необычные формирования неудачных прототипов, закодированных в генотипах, как бы продолжались и появлялись в разных местах и в разных условиях, один раз — удачно, другой раз — гибельно. Достаточно представить себе, какой должна была быть судьба человека с мозгом Эйнштейна, родившегося в пещерную эпоху. Суммировать все это можно следующим образом: мы возникли из составных частей в ходе игры, при этом эволюция тестировала фактические видовые способности, но в то же время она не занималась созданием интроспективных зондов, которые позволили бы нашему мышлению изучить самого себя, поэтому у нас есть интуиция, но нам ничего не известно о ее механизме, поэтому мы помним, говорим, пишем и понимаем, но не знаем, как это делается. Человеку достаточно посмотреть на самого себя, чтобы он понял, насколько ограничена его телесная сфера, подверженная автоконтролю. Мы устроены так, что раны заживают, но не знаем (кроме медиков), как это происходит. Одним словом, название давней книги Карреля «Человек — существо неизвестное» все еще актуально. Мы не только не знаем себя, но мы также не знаем, как будем поступать в непредвиденных ситуациях. Не знаю, пойдут ли нам на пользу (а хотелось бы) исследования, которые в результате сделают возможным создание искусственного интеллекта.