Молох (сборник)

3

Другими словами, я хочу сказать, что существует то, что человеческому разуму из-за громадной сложности, развернутой на протяжении многих сотен тысяч веков, НЕПОДВЛАСТНО, и поэтому эволюционисты и их противники в известной степени были обречены: первые — на поражение, другие — на обращение к силам или причинам, наверняка не относящимся к вопросам эмпирически понимаемой науки. Я не могу предугадать, смогут ли какие-нибудь будущие суперкомпьютеры, в 10 ³или 10 ⁹раз более производительные по сравнению с лучшими компьютерами последнего поколения, справиться с данной проблемой при помощи моделирования. Я лично в этом сомневаюсь, потому что эволюция относится к процессам стохастическим или обусловленным вероятностно, а точнее, к так называемым процессам Маркова или скорее полумарковским: в типичном процессе Маркова каждое достигнутое состояние с определенной вероятностью обуславливает следующее состояние (шаг), но цепь этих шагов никакой памяти о произошедших событиях не имеет, зато полумарковская цепь имеет память, но «слабую», довольно «размытую», не проникающую глубоко в прошлое. Сам КОД при этом как бы представляет разновидность алфавита, и в ЭТОМ смысле уже имеет слегка полумарковскую «память», так как ни из одного набора букв, составленных в предложение, нельзя, опираясь на статистику их распределения (НО НЕ НА ЗНАЧЕНИЕ ВЫРАЖЕНИЯ), воссоздать предшествующее предложение, при этом мы знаем, что предыдущее предложение было написано тем же самым буквенным алфавитом (а не представляло собой набор каких-то крючков, черточек и т. п.), и в этом мы видим эту слабую память (тождественность букв, так как тождественность нуклеотидов мы можем видеть в каждом поколении организмов, которое предшествовало теперешнему). Тем не менее о том, как появился «алфавит кода» и как он «соотносится» с различными «вспомогательными аппаратами» (мРНК и т. д. — я не хочу здесь углубляться в джунгли биолого-генетической терминологии, чтобы не затемнить картину), мы все еще ничего не знаем. Смутные, противоречивые домыслы не являются знанием и заменить знание не могут. Мы также не знаем, сформировался ли код с такой а prioriнезначительной вероятностью успеха, как, например, выигрыш первого приза в цифровой лотерее сто раз подряд или, наоборот, какие-то неизвестные нам «необходимости», вытекающие из Законов Природы, «толкали» процесс к организации кода. Судя по количеству времени, за которое код «вылупился», вероятность его возникновения НЕ могла быть значительной, но то, чего мы не знаем, не должно быть с легкой руки и из-за излишней наивности восприниматься как предопределенность.

4

Прежде чем я вернусь к вопросу о пригодности параллельного компьютера в качестве модели эволюции простейших организмов, зачерпну из другой бочки, но уверяю, что к обозначенной проблеме мы еще вернемся. С давних времен человек, шаг за шагом упорядочивая свои знания обо всем, что не дано ему просто и наглядно в элементарном, как высекание огня, ежедневном опыте, искал МОДЕЛЬ для явлений, которыми ТАКЖЕ хотел овладеть, то есть понять их структуру и их строение. И с этих моделей обычно начиналось уточнение получаемых знаний. И когда человек узнал, что существуют атомы, он сравнил их с неделимыми шарами-мячиками, затем, с помощью экспериментов проникая глубже в атом, он был вынужден несколько усложнить результирующую модель и обратился к Солнечной системе, так что на следующем этапе атом уже напоминал ядро-солнце, вокруг которого кружились, как планеты, электроны. После само центральное «солнечное тело» оказалось составленным из электрически заряженных и нейтральных частиц; затем пришлось призвать как дополнительную модель ВОЛНЫ, пока из этого не возникли волны эфира; потом показалось, что нет никакого «эфира» и волны являются конструкциями скорее, если можно так сказать, математического происхождения: они стали волнами правдоподобия. Затем Эйнштейн попытался еще спасти детерминизм и защитить его, но не победил — появилась абсолютно неочевидная, рожденная в копенгагенской школе КОМПЛЕМЕНТАРНОСТЬ, а потом «элементарные» частицы понемногу перестали быть элементарными, и сейчас концепция, что разных частиц может быть бесконечно много в зависимости от энергетических условий окружения, уже никакой ересью не является. Я здесь, разумеется, не хочу упрощенно преподавать физику, а хочу только показать, как мы всегда ищем модели, которые сначала являются «возможно очевидными», возможно постигаемыми нашими чувствами, а затем действительность неумолимыми шагами опытов вынуждает нас к отказу от этих моделей, и в итоге (пока, ибо физика не сказала последнего слова, которого, по моему мнению, нет вообще) мы имеем эксперимент Эйнштейна—Подольского—Розена, который привести к какому-нибудь осознанию на визуально демонстрируемой нематематической модели уже наверняка не удастся. Путь этот всегда один — от простейшего, которое мы ищем в Природе, от Эйнштейна, облачившего эти поиски в слова «Raffiniert ist der Herrgott, aber boshaft ist Er nicht»или « God is sophisticated but he is not malicious» [105] вместе с его « Der Herrgott w"urfelt nicht», [106] вплоть до Хокинга, который возражал, что Бог играет в кости, но не дает нам заглянуть в кубок, содержащий их. Следует опасаться, что Хокинг в сравнении с Эйнштейном прав. Тем не менее ЗАМЕНА МОДЕЛИ с простейшей на менее простую как-то понемногу приближает нас к «сути дела». И мы, собственно, с тех пор как Уотсон и Крик открыли спирали ДНК, ничего более подходящего не придумали и не нашли, кроме концепции сходства кода ДНК с буквенным алфавитом нашей письменности.

105

Бог изощрен, но не злонамерен (нем. и англ. соответственно).

106

Бог не играет в кости (нем.).

5

Сейчас я уже могу вернуться к теме, которой посвятил это эссе. Естественно, я не утверждаю, что якобы возникшие три миллиарда лет назад праорганизмы, способные к некоей авторепликации, БЫЛИ параллельными компьютерами. Различие огромно. Наши компьютеры являются цифровыми (победившими аналоговые), последовательными или параллельными, но с последними очень большие проблемы имеют те, кто разрабатывает для них программы. Так, в США, в Денвере, построили летный супераэропорт с подземными тоннелями для пересылки, сортировки, адресования багажа пассажиров, и одна супепрограмма должна была всем вместе этим безошибочно управлять, после чего оказалось, что из-за ошибок программистов программа сбоит, иногда ее выполнение идет в неверном направлении, и с этой программой пришлось помучиться, что привело к необходимости возврата к прадавней методике ручной сортировки багажа и т. д. (там речь шла и о бронировании билетов, и о многих других услугах). Программы, работающие последовательно (итерационно), не позволяют легко внедрить возможность автокоррекции. Зато естественная эволюция действует иначе. Во-первых, в ней есть множество контролирующих инстанций (обычным является контроль численности). Во-вторых, ее программы не цифровые и не аналоговые, а «смешанные», взаимовлияющие, и назвать их можно было бы «ХИМИОЦИФРОВЫМИ», ибо «химио» означает именно аналоговость (гормоны, серетонин, ацетилохолин и так далее вплоть до конца новейшего издания Абдергальдена), а «цифровая» касается прежде всего электрической (точнее электрохимической) трансмиссии сигналов в системе. Таким же образом hardwareне поддается четкому отделению от softwareв системе, и не следует думать, Боже сохрани, что эволюция впихнула здесь в какой-то беспорядок смешанные порядки, но можно полагать, что правдой является то, что 33 года назад в «Сумме технологии» я вкладывал в глухие повсюду уши: эволюция ИНЖЕНЕРНО несравнимо совершеннее нас, и МЫ У НЕЕ должны учиться. Сейчас, впрочем, эта учеба уже началась.

6

Но и эти простейшие организмы в течение трех миллиардов лет, размножаясь в условиях еще слабо развитого ПРАКОДА, не были в буквальном смысле «параллельными компьютерами». Сходство в лучшем случае может быть таким, как между атомом — маленькой солнечно-планетарной системой — и атомом сегодняшней физики с кварками, барионами и лептонами. Каждая прасистема была как бы нанокомпьютером, готовящимся к саморазмножению благодаря заключенной в нем жизненной силе, тем самым представляющим как бы крохотный прототип «машины Тьюринга», работающей медленно (ни одна машина Тьюринга иначе, то есть быстрее, выполнять команды не может), и только их огромное количество в масштабе планеты (триллионы) позволило некоторым случайно («естественный отбор», «селекция») получить преимущества, и ЭТИ некоторые начинали лучше размножаться и выживали, и этот «минимум способности к выживанию» представлял (может, и плохо) именно модель параллельно работающего компьютера: происходили как бы гонки на выживание… и это уже представляет полный, главный смысл моего приравнивания прасистемной базы жизни на планете к параллельному химиоцифровому компьютеру. В отдельных нуклеотидных нитях дело доходило до всевозможных рекомбинаций, и вновь не следует, а скорее нельзя думать, что за недолгое время в результате непрекращающегося тасования элементов, из которых сложились репликаторы, возникла экспансивная креационная сила. Необходимо было тасовать «репликационные прапрограммы» в течение дальнейших двух — двух с половиной миллиардов лет вплоть до кембрия: этот «параллельный компьютер», который так удивительно отличался от построенных нами, ибо никто для него программу не составлял, а только он сам ее себе создал ПОТОМУ, ЧТО ВСЕ, ЧТО НЕ ВЫИГРАЛО ЭТИМ СПОСОБОМ, ПОГИБЛО, И СЛЕДА ОТ ТЕХ, ПРОИГРАВШИХ, не осталось. И не осталось тем более, что эти прасистемы, которые выжили, могли частичками «неудачников-конкурентов» поживиться как органической удобоваримой материей.

7

Было бы очень интересно и полезно узнать, каким это образом, с какой вероятностью закрепившийся на элементарном уровне вегетации «авторепликаторий» наполнился креационным потенциалом, благодаря которому дошло до кембрийского взрыва жизни — напомню, около 800 миллионов лет назад. Так говорят знатоки, но я, дилетант, считаю, что не было неожиданного прыжка (прыжок, который ДЛИТСЯ полмиллиарда лет, считаться «неожиданным» не может), а только вначале, за миллионы лет, возникли такие локальные «экспансии» к многоклеточности, которые исчезли, поскольку направились по тупиковому пути развития, избавленного от какого-либо продолжения как перспективной силы дальнейших эволюционных шагов «вверх», пока в голоцене появился Человек…

ТО, КАК все было, мы не узнаем, по-моему, никогда. Это предположение я постараюсь образно подтвердить. Миллионы людей играют в рулетку. Половина промилле из них выигрывает (остальные проигрывают и заканчивают в нужде). Из этой половины промилле формируется следующий ряд игроков: из них выигрывают, скажем, 90 тысяч. Из этих в ТРЕТИЙ раз выигрывают затем 14, а в четвертый раз — один и зовется он Homo Sapiens Sapiens. Проигравших не видно и не слышно, виден только тот, кто выиграл, даже если он не ценит собственную жизнь и пытается взорвать этот Монте-Карло, где он поймал фортуну (а при случае прикончить самого себя). Такая картина человечества сегодня ПОЗВОЛЯЕТ обосновать эволюционную палеобиологию… А поскольку действующий процесс — как марковский — нельзя реконструировать обратно (он не располагает памятью о собственных прежних состояниях), то даже имея компьютер с вычислительной мощностью в триллион раз большей, чем даже Supercray, мы можем самое большее рассмотреть обратное направление различных путей, которые могли БЫ привести к желаемому выигрышу, но однозначно установить, КАКИМ путем двигалась эволюция, чтобы на финише достичь антропогенеза, не удастся никогда. Таково мое мнение, закрепленное в математике современной теорией вероятности, в ее многих комбинаторных, стохастических ответвлениях и last but not leastв теории игр, близкой к теориям путей эргодического сканирования. Я, конечно, могу ошибаться, но тогда окажется, что не я один совершил ошибку и что всю очень сильно разветвленную теорию вероятностей вместе с теориями хаоса, фракталов и т. д. надо будет заменить чем-нибудь таким, о чем сегодня никто не имеет ни малейшего понятия.

8

Мне остается ответить на вопрос, впрочем, элементарный: какого черта я выскочил с этим параллельным компьютером как с основой протокода и пражизни? Разумеется, не только потому, и даже совсем не потому, что пишу для журнала, посвященного «твердым и мягким» компьютерным вещам. Я просто думал, что смена исходной модели, смена, которая, как кажется, по крайней мере НЕ запрещена, смена, к которой привели меня работы ученых, таких как Адельман, демонстрирующие, насколько велика скрытая в олигонуклеотидных нитях вычислительная мощность, позволяет посмотреть (или, точнее, ПОЗВОЛИТ посмотреть) на загадку земного биогенеза с новой, другой стороны. Кстати, я думаю, что из-за страшной людской толчеи, а следовательно, и научной, концептуальной, наблюдаемой сегодня на Земле, моя идея перестанет быть исключительно моей идеей, а те, кто ее окончательно примет, тоже не будут иметь ни малейшего понятия, что какой-то живущий под Краковом пророк их немного опередил, также как и те, которые сегодня пристально следят за CYBERSPACE, не имеют понятия, что именно о нем я написал книгу в ранние 60-е годы. Впрочем, я уже знаю, что начинают сбываться мои предсказания также и в других областях: у меня есть этому доказательства, и я не считаю, что есть нечто неправильное в представлении их в качестве документов, удостоверяющих смысл, имеющийся в моих давних попытках предвидения. Возможно, в следующий раз я напишу об «искусственных Вселенных», населенных моделями «людей»: этой проблемой не только в SFя (и не только я) занимаюсь… уже очень давно.

Загадки [107]

1

Ежемесячный журнал « Znak» попросил меня принять участие в анкете, посвященной AI, искусственному интеллекту, то есть ответить на три вопроса:

1. Что еще смогут «разумные машины» в будущем?

2. Приведет ли технический прогресс, в частности расширение области его применения, к последствиям экзистенциональной, этической, эмоциональной природы? Если да, то к каким?

107

Zagadki, 1995. © Перевод. Язневич В.И., 2004

3. Что мешает машинам думать и действовать, как человек?

В первую минуту я подумал, что ответы, которые я должен дать в объеме 2–3 страниц, — это примерно то же, что реплика на вопросы, заданные на пороге нашего столетия: «Что можно будет еще сделать с атомами?», «Приведет ли техническая реализация работ над атомами к последствиям экзистенциональной, этической, эмоциональной природы и если да, то к каким?» и «Что мешает атомам проявить свой предполагаемый потенциал, который мы принимаем за преграду?» Вообще мне не кажется, что сопоставление обеих этих триад является абсолютной глупостью. Не говоря уже о том, что проблеме AIпосвящено сегодня такое количество литературы, которое не вместила бы университетская библиотека, и вместе с тем, наверное, уже невозможно, чтобы какой-нибудь человек, изучающий вопросы AI, сумел бы все труды, относящиеся к этой теме, прочесть в течение всей жизни. Уж скорее он прочитал бы от первой до последней страницы Большую Британскую Энциклопедию. Однако я решил ответить очень кратко и аподиктически, поскольку не во всем верна поговорка римлян Si tacuisses, philosophus mansisses. [108] То есть тот, кто не раскроет рта, будет достоин звания философа (ибо не разговаривая, им остается). Но в наше время повсеместного шума, суматохи, информационного потопа тот, кто будто бы благоразумно сохраняет молчание, станет не философом, а просто никем. Итак, я ответил, что машины смогут «все», что не запрещают Законы Природы — основные законы, составляющие фундамент нашего современного и будущего знания, что КАЖДАЯ технология, имеющая или не имеющая что-либо общее с конструированием AI, приводит к последствиям экзистенциональной, этической, эмоциональной природы, и что пока новая технология не окрепнет и не будет внедрена во всей цивилизации, успешное использование ее результатов (примерно соответствующее американскому термину TECHNOLOGY ASSESSMENT) невозможно. И наконец, в-третьих, машинам мешает думать и действовать подобно человеку то, что ни строением, ни функционированием они гомологически не являются людьми (с человеческим мозгом). Все совершенно иначе, ибо эволюция машин (компьютеров), о которых обычно говорят, что они механизировали по крайней мере часть наших мыслительных процессов, отдаляется от направления, которым антропогенез естественной эволюции привел к тому, что все мы представляем собой очень похожие друг на друга экземпляры вида homo sapiens sapiens.

108

Если бы ты молчал, ты остался бы философом (лат.).

2

Разумеется, что отвечая, как указано выше, я отдавал себе отчет в том, что мои ответы, по сути дела, являются УЛОВКАМИ, потому что представляют собой довольно банальные, если не сказать даже тривиальные сокращенные толкования некоторых очевидных вещей. Затем я, однако, понял, что ответить на 2–3 страницах более компетентно и по существу — это, как и в затронутой теме «атомов», абсолютно невозможно. До сегодняшнего дня лагерь мыслителей и экспертов, занятых проблемой AI, делится на две большие противоположные группы: одни считают, что AI«удастся создать», другие же — что это невозможно. При этом во всеобщем почете находится известный тест Тьюринга, с помощью которого в сокращенном до важнейшей сути виде добиваются, чтобы человек-Экзаменатор, ведя разговоры на произвольные темы с незнакомым ему собеседником, однозначно определил: производит ли он обмен информацией с другим человеком или с машиной. Здесь мы сразу попадаем в своего рода fuzzy set,«нечеткое множество» (я такой польский перевод термина fuzzy setне люблю, но он уже закрепился в жаргоне отечественных специалистов), поскольку результат экзамена, несомненно, зависит от компетентности ОБЕИХ сторон. Уже сегодня существуют программы, которые значительное количество потенциальных собеседников-людей смогут успешно ввести в заблуждение (даже такая по сути примитивная программа, как ELIZAпрофессора Джозефа Вейзенбаума, обманула его секретаршу). Для проявления способностей не только в объеме общего интеллекта (измеряемого, скажем, тестами Бине для определения размера IQ, показателя интеллекта на гауссовской кривой нормального распределения интеллекта в популяции ЛЮДЕЙ), но, кроме того, и в сфере интересов специалистов по компьютерам, программам и last but not least AI, необходимы СПЕЦИАЛЬНЫЕ ЗНАНИЯ. Это упрощенно можно приравнять к ситуации, в которой человек, выбранный «экзаменатором», должен решить — является ли некий другой человек (другие люди), разговаривающий с ним и поступающий так, как поступают люди в конкретных жизненных ситуациях, АКТЕРОМ, играющим роль не своей личности, а какой-то фиктивной, или же это человек, который никого не изображает, а просто является самим собой. Несомненно, в значительной степени можно предопределить результат такого теста, если «арбитром-судьей» будет лицо, очень хорошо знающее схемы и сюжеты сценических, кинематографических и театральных произведений. Естественно, я здесь не имею в виду фильмы, в которых Гай Юлий Цезарь разговаривает с Брутом по-английски.

3

Вышеприведенные рассуждения мне необходимы для перехода к более существенным проблемам. Как само собой разумеющееся (почти всегда) при проведении теста Тьюринга считается следующее: не все люди одинаково развиты в интеллектуальном смысле, но если по не требующим объяснения причинам мы исключим из круга Экзаменаторов дебилов и иных глупцов, то в действительности КАЖДЫЙ нормальный человек располагает таким запасом знаний и так называемой «языковой перформативностью», что сумеет провести беседы с машинной программой типа AI, заканчивающиеся «разоблачением» машины или установлением ее «нечеловеческого характера». Сегодня данная идея уже начинает вызывать сомнения. При этом гонка в области компьютерного производства, которая в последнее время привела к тому, что мы уже имеем процессоры типа Р6, которые могут обогнать Pentium, совершая два миллиарда элементарных операций в секунду, совершенно не приближает нас к моменту, когда программа, основанная на таком hardware, одолеет имитацией КАЖДОГО человека. Это еще по нескольким причинам довольно далеко от нас, и тот факт, что даже Каспаров получил мат от машины, ничего в нашей теме ( AI) не меняет, поскольку brute forceНЕ может быть успешно использована для языкового подражания поведению нормальной человеческой личности. Несомненно, машины УЖЕ обогнали нас по многим пунктам. Хорошая диагностико-терапевтическая программа, которая обладает сегодня полным комплектом результатов «дополнительных» исследований, сумеет опередить большинство врачей, обеспечивая комплексный подход для распознавания симптомов болезней, а также для определения методов их лечения. Этот тезис не голословен: американцы, любящие проводить статистические исследования на больших по численности релевантных группах (или репрезентативных для широких кругов людей — больных и здоровых), показали, что машины выполняют медицинские экспертизы не хуже, чем хорошие медики. Уже пытаются использовать машины в качестве судей и т. п. Поле этих действий неуклонно расширяется, и уже можно сказать, что некоторые из наших знаний (сегодня в глобальном масштабе они составляют около 10 ¹⁵битов и будут удвоены до 2000 года) удастся алгоритмизировать, построить в виде разветвленного дендритического древа альтернативных решений: те, которые не содержат большого количества антимоний (логикосемантических противоречий), В ПРИНЦИПЕ могут быть преобразованы в программу для машины, которая не только относится к категории конечных автоматов, но, кроме того, обладает такой вычислительной мощностью, что результатов выполнения программы (лечебной, геологической, судебной, астрофизической) не надо будет ждать 200 лет (что было бы необходимо, если использовать простейшую машину Тьюринга…). Одним словом, дело в том, что если бы мы увеличили вычислительную мощность в итеративных, одношаговых системах, которые доминируют сегодня на мировом компьютерном рынке, то в лучшем случае мы смогли бы создать рудименты, макеты «разумного собеседника», но сравниться с ним таким путем нам не удастся. (Только он должен, повторю, действительно обладать интеллектом и разумом, а первое не то же самое, что второе). В скобках стоит добавить, что программы и такие машины можно примерно приблизить к прототипу, который одерживал бы победы в многочисленных поединках тьюрингова типа с заурядными собеседниками, ЕСЛИ программа будет учитывать некоторые особенности каждого языка людей. Этими особенностями являются: А) семантический полиформизм, или то, что значения слов опираются на понятия, которые не укладываются в целые гаммы различных смыслов, определяемых контекстно, конситуативно, коннотативно и денотативно — даже если не десигнативно; Б) вероятностность в границах логики высказываний, которая делает излишним обращение к tertium non datur, то есть что почти всегда есть ИЛИ ДА — ИЛИ НЕТ. Эта вероятностность вводит нас не только в новые двузначные логики (типа правда-ложь), но и в fuzzy setsи даже позволяет применять оксиморонические антимонии. Если же — лучше использовать тривиальный пример — кто-то скажет: «Красивая девушка, но все еще темный лес», а кто-то ответит: «Красивая, но абсолютно недоступная», то поскольку после утверждения идет отрицание, что будто «ничего неизвестно», то большинство людей почувствует какую-то тень сомнения в абсолютной девичьей невинности. Просто «мы так умственно устроены», и машине, которая должна будет подражать человеку, ТОЖЕ следует аналогично хромать в смысле логики высказываний и необходимо испытывать трудности с исполнением «в памяти» более длинных расчетов (даже простых арифметически), она должна также совершать ошибки, поскольку мы, собственно говоря, именно таким образом ведем себя в норме.