Молох (сборник)

Китайская комната Сёрла, как и моя puzzle, ничего не предопределяет, ничего не обещает, ничего не предетерминирует, ничего не «решает» раз и навсегда. Еще добавлю (это также слегка относится к делу), что на особом месте в моей библиотеке находится книга 1924 года издания, написанная немецким ДОКТОРОМ (но не медицины), который математически, химически и физически доказал в ней полную невозможность космических полетов и даже получения ракетой ускорения, способного преодолеть гравитацию, чтобы она смогла выйти на околоземную орбиту. Это очень хорошее доказательство, «проведенное исключительно формальными средствами». О нем стоит помнить оппонентам искусственного интеллекта. Основным упреком против моего сведения «тайны китайской комнаты» к головоломке типа PUZZLEявляется чрезмерное упрощение дела. Ну, сейчас я его усложню. Не картина находится на аверсе PUZZLE’а, а те строки, произнесенные Отелло, где говорится о том, как он задушил Дездемону. Складывающий кусочки ничего об этом не знает. Он получает два пакета других кусочков в качестве «вопросов» и в качестве «ответов на вопросы». Всё это он видит только произвольно рассыпанными фрагментами картона и должен сложить из них целое благодаря тому, что их зубчики, зарубки и вырезы взаимооднозначно подходят друг другу. После переворачивания составленного видно, что вопросы были такими: «Почему Отелло душит Дездемону?» и «У него были на это какие-то основания?», а ответы соответственно: «Душит по причине ревности» и «Он был введен в заблуждение Яго». Целостность текста, вопросов и ответов должна быть составлена из АНГЛИЙСКИХ фраз, а складывающий их китаец, который ни слова по-английски не знает, благодаря чисто формальному процессу (составлению головоломки) получает сборный текст, сборные вопросы и адекватные ответы на них. Ранее Сёрл несколько вскружил голову тем, кому он описывал свой эксперимент, что это «китайщина» и т. п. Сейчас видно, что в принципе возможно при чисто формальном подходе (тоже складываются куски по их ФОРМЕ, а не по их смыслу) проведение эксперимента. Однако вместе с тем видно, на этот раз уже очень явно, что китаец в «английской комнате» действительно НИЧЕГО не понимает. Итак, КТО же понимает тексты в ОБОИХ случаях, в случае Сёрла и в моем? Конечно, тот, кто весь эксперимент — как первый, так и второй — выдумал, составил и запрограммировал. «Понимание» не находится ни в какой из комнат, ни в той «китайской» с англичанином, ни в «английской» с китайцем, программы же в обоих случаях отличаются друг от друга тем, что в одном случае знаки одного китайского письма ФОРМАЛЬНО приспосабливаются к знакам другого китайского письма, а в моем случае ФОРМАЛЬНО приспосабливаются формы вырезок картона. Разница несущественна, потому что существенным является исключительно поведение складывающего, который и здесь и там ничего не понимает из текста, и не важно, видит ли он текст и не понимает его, не зная китайского, или же не видит текст (китаец), потому что если бы он его видел, ТО ТОЖЕ БЫ НЕ понял, если уж он должен соединять формы, а не символы. Короче говоря, эксперимент вводит нас в заблуждение, при этом Хофштадтер в своей книге ТОЖЕ так считает, но зря усложнил объяснения. Не в том загвоздка, что китайское письмо несравненно труднее было бы приспосабливать к китайскому (НАПИСАННЫЕ буквы для невежды могут восприниматься графически как очень разные, например, латинская буква « f» формально тождественна « F»), но загвоздка в том, что работа всегда асемантично формальна. Следовательно, «понимание» в самих текстах не участвует вообще и a fortiori [119] нет и речи о присутствующем «сознании». Возможен ли искусственный интеллект, покажет будущее. С обсуждаемым « reductio ad absurdum [120] » это будущее НЕ ИМЕЕТ НИЧЕГО ОБЩЕГО.

119

тем более (лат.).

120

доведение до нелепости (лат.).

Выращивание информации? [121]

1

Идея, приведенная в заголовке, посетила меня в ранних 60-х годах, когда я принялся за написание «Суммы технологии» и в связи с этим изучал литературу, посвященную дарвиновской естественной эволюции. Мысль о том, что сама эволюция представляет собой особый способ «выращивания информации», заключенной в генах как матрицах-проектах развития древа Линнея и обеспечивающей саму «суть» или «движущую силу» эволюции, через какое-то время превратилась в моей голове в некую «противоположность». В процессе эволюции может сохраниться только то, что (как организмы определенного вида) ВЫЖИВАЕТ (в «борьбе за существование», которая не обязательно должна быть кровавой битвой), а я подумал, что если бы удалось вместо правила «выживает лучше приспособленное к окружающей среде» ввести правило «выживает то, что точнее ВЫРАЖАЕТ окружающую среду», мы оказались бы на пороге автоматизации познания (эпистемы) тех процессов, которые на протяжении четырех миллиардов лет привели к существованию целой биосферы во главе с человеком. Эта идея захватила меня так, что я включил это «выращивание информации» на правах особого раздела в «Сумму технологии», которую писал в то время. Но затем, когда дело дошло до обновления этой книги, меня охватили различные сомнения относительно возможности осуществления такого «выращивания», и эти сомнения я отразил в следующем издании. Ведь действительно, не все, что представляется как будущие достижения, будет осуществлено даже в перспективе грядущих веков, а то и тысячелетий. В самом деле, естественная эволюция как «выращивание информации о строительстве живых организмов» началась и, без сомнения, действует, имея изначально такой движущий фактор, с которым никоим образом НИЧТО другое справиться не может. Ведь сохраниться и тем самым выжить может только то, что не гибнет; любое несовершенство в проявлениях жизни попадает под гильотину; сегодня мы знаем, что по крайней мере 99 % всех видов, произведенных за миллиарды лет эволюцией, безвозвратно погибли. Эти гекатомбы свидетельствуют о «жестокости» отбора как селекции — что не имеет сил сохраниться, должно погибнуть. Однако какой фактор мог бы запустить движущую силу в этом выдуманном мною «выращивании информации», которому мы должны быть обязаны — хотя бы в очень отдаленном будущем — плодоношению в виде открытий, изобретений или теорий эмпирического характера? То, что смогла сформировать дарвиновская эволюция, возникало сотни тысяч лет под жестоким давлением окружающих условий и межвидовой конкуренции. Что же, однако, могло бы заменить это давление с целью получения активной силы познания?

121

Hodowla informacji? 1995. © Перевод. Язневич В.И., 2004

Сегодня ситуация не такая, какой была тридцать с небольшим лет назад. Уже в то время возникшие компьютеры расплодились, разрослись, их «видовая специализация» шла при этом параллельно с рождением языков программирования. В последнее время из компьютеров как изолированных единиц начали создаваться многочисленные соединения в виде сетей, которые, без сомнения, в грядущие годы будут все гуще оплетать планету. Однако, хотя информационные потоки и ускоряются, и расширяются, все же нет и речи о том, чтобы в какой-либо «имитации нервной сети», которая разрастается в глобальном масштабе, мог блеснуть суверенитет чего-то наподобие сознания. Иначе говоря, компьютеры не являются ни нейронами, ни их эквивалентами, каналы сети не являются аксонами или дендритами: все это вместе взятое остается в абсолютной пассивности, в молчании и в зависимости от людей, которые в отдельные компьютерные единицы, а через них — в глубь сети, вводят программы и управляют ими согласно человеческим желаниям и представлениям. Таким образом, это не ведет к какой-либо форме «выращивания информации», не правда ли? Разумеется, каждый пользователь сети был бы захвачен врасплох и непомерно удивлен, если бы оказалось, что мировая сеть сама, без активных действий отправителей-людей «имеет что-либо для извещения». Эта идея, возможно, хороша для Фантастики ( Science Fiction), но каждый, кто даже незначительно соприкоснулся с информатикой и перерабатывающей информацию динамикой сети, хорошо знает, что сеть с ним «не заговорит», «не взбунтуется», что она «не станет суверенной» никоим образом — ни таким, который мы могли бы себе вообразить, ни таким, который выходит за пределы нашего воображения. И потому еще раз: следует ли похоронить эту концепцию «выращивания информации» на свалке хлама, на которой покоятся различные флогистоны?

2

Я бы сказал, что спешить с такими похоронами не стоит. Разумеется, основное направление развития информационных технологий СЕГОДНЯ не ставит своей целью появление какой-либо формы «автоматизации познания» для создания «эпистемических процессоров», которые что-нибудь смогли бы придумать «по собственной инициативе» или под давлением «исследовательской познавательной программы». Совсем не следует считать помощь, какую очень широко предоставляет компьютер и компьютеризация отдельным отраслям знаний, «познавательным информационным плацдармом», поскольку все то, что могут нам дать компьютеры, благодаря своей вычислительной мощности и благодаря цифровой или аналоговой методике моделирования процессов Природы (сегодня можно моделировать будущее космоса, отдаленное от нас, скажем, на миллиарды лет, при предположении, что основы космологии сегодняшнего дня являются ОСНОВОПОЛАГАЮЩИМИ) как процессов, данные о которых мы, люди, вводим в программы, и тем самым от качества входных данных, от программ, от результативности их исполнения, от теорий, господствующих над всем тем, что МЫ САМИ, а не компьютеры, создали, зависит эффективность получаемых решений либо в виде моделей определенных состояний, либо как результата такой «имитологической» (как я писал в 1963 году), а теперь — моделирующей работы-игры, в процессе которой возникает, например, проект нового самолета, здания, ракеты, приводной системы, оружия, молекулярных соединений, наследственных генов и т. п. И следовательно, компьютеры — это наши инструменты, а ведь мы не ждем от инструментов творческой результативности, поэтому где здесь должно было возникнуть место для какого-либо «выращивания информации», при котором жатва означала бы получение таких знаний о различных явлениях мира реального или только построенного математически, которых мы не ожидали. Это можно выразить лучше: компьютеры любой мощности — это творения, рожденные окружением, состоящим из ЛЮДЕЙ: проектировщиков, фон Нейманов, Тьюрингов, Шеннонов. Это окружение создало компьютеры, это люди окружения управляют ими в их архитектуре ( hardware) и процессуальном программировании ( software), и в определенном смысле все это происходит, в сравнении с естественной эволюцией, наоборот! В процессе эволюции вначале возникли зародыши жизни на едва остывшей Земле, в еще бескислородной атмосфере, и огромным общим трудом этих зародышей жизни была преобразована поверхность Земли, ее океаны и ее атмосфера до такой степени, что около восьмиста миллионов лет назад, в кембрии, дошло до настоящего взрыва размножения видов. Следовательно, жизнь повлияла на окружение, сделала его системой различных НИШ, зато с компьютерами было наоборот: «сами они не размножались», ни какая-либо искра «собственной МОТИВАЦИИ поведения» в них не вспыхнула. Медленно и отчетливо я стараюсь показать эту фундаментальную разницу, поскольку сегодня нет недостатка в желающих уподобить мозг компьютеру, сети типа Интернета — нейронным сетям, возникшим в организмах и т. д. Таким образом, видно, что до сих пор дорога к «выращиванию информации» вела не туда.

3

А куда? Я думаю, что до вступления на эту дорогу еще очень далеко и иначе, чем дерзким воображением перспективы дальнейшего развития, дальнейшей эволюции «искусственного мышления», обойтись нельзя. Я думаю, что эти процессы могут появиться в такой вот очередности. Сначала будет так, как уже есть, — мы вводим в компьютерное пространство определенные МОДЕЛИ (ракеты, галактики, вирусы) и стараемся при помощи ПЕРЕРАБОТКИ ДАННЫХ компьютером дойти до результата, который НАС интересует (разумеется, и я не буду распространяться о том, что одно дело — определение оптимальной технологии построения ракет, и совсем другое — обнаружение таких «мест» вируса, которые мы могли бы атаковать в терапевтических целях).

Однако если модели «созданий» столь различных, как ракета, вирус, геном, звездная система, мы можем вводить в процессуальное пространство компьютеров, то кажется возможным в будущем введение в него «созданий» еще более сложных… до тех пор, пока в итоге мы не будем «помещать» в компьютеры зародыши других компьютеров, и эволюция компьютеров будет в них же самих развиваться (потомков в родителях). Правда, сейчас нелегко конкретно представить себе такую «эволюцию». Во-первых, cyberspaceпри всей своей огромной, всемирной и рекламной популярности находится (точно говоря) все еще в пеленках, в зачаточной фазе. Во-вторых, именно с точки зрения относительного примитивизма этой фазы программирование фиктивного фрагмента реального мира (не сразу программирование «модели Эйнштейна», а хотя бы только стада бегущих динозавров), который будет длиться несколько минут в реальном времени, требует многонедельной кропотливой работы программистов. Это то же самое, как если бы мы хотели, увидев первый самолет братьев Райт, сразу вообразить какой-то super jumbo, перевозящий тысячу пассажиров с континента на континент… но увеличение и ускорение «развития» неизбежнее всего наступят в сфере компьютеров, так же как они наступили в области авиации. Необходимо цели соизмерять с возможностями.

4

«Погружение» компьютеров в cyberspaceдолжно включать также возникновение «вокруг них» модели «окружения» или, если предпочитаете, «окружающей среды». В противном случае было бы неизвестно, откуда, как и почему модель «начального компьютера» должна приобрести некую «мотивацию» («ЦЕЛЬ»), чтобы он начал превращаться в более совершенного «потомка», блистающего способностями! Я думаю, что здесь может оказаться необходимой стратегия, заимствованная у естественной эволюции, а суть ее заключается в том, что эволюция действует МАССОВО-СТАТИСТИЧЕСКИ, поскольку ОБЯЗАНА так действовать. Эта обязанность следует из «жестокости» селекции и отбора («если не приспособишься, если не усовершенствуешься, то погибнешь»).

Поэтому во всей одушевленной природе преобладает такой, казалось бы, расточительный избыток, прежде всего в сфере РАЗМНОЖЕНИЯ. Миллиарды яйцеклеток, миллиарды сперматозоидов, миллиарды спор, миллиарды инфузорий, миллиарды и триллионы — поскольку 99 % гибнет, не вступив в процесс эмбрионального развития или прорастания растения из семени, и, однако, в конце концов дуб вырастает в гиганта, поскольку его родитель щедро рассыпал и рассеял желуди. Итак, ЭТУ методику щедрого излишка, которую мы встретили уже там, где компьютерные программы игры в шахматы «сцепились» с людьми — гроссмейстерами мирового класса, — эту методику, вероятно, придется применить в cyberspace. А для того чтобы она могла начать свою борьбу, управляемое, доступное для моделирования пространство должно обрести соответствующие комбинаторные, логические и математические размеры («Емкость» для brute force).

5

Я уже когда-то писал о том, что в мыслях я поступаю так же, как шимпанзе в экспериментах психолога Кёлера: обезьяна находится в помещении, в котором с потолка свисает банан, а вокруг довольно хаотично разбросаны разные пустые коробки, и шимпанзе, если он не слишком глупый, в итоге находит решение: устанавливает ящик на ящик, забирается на самый верхний и таким способом достает банан.

Разумеется, само перемещение проектной информационной работы из реального пространства, в котором программируют softwareи занимаются архитектурой процессов другие специалисты, в глубь пространства, называемого сегодня cyberspace, не является еще увертюрой к «выращиванию информации». Самое большее — это перемещение определенной части умственной работы людей в область псевдоумственной работы машин. (Обратим внимание, что с «искусственным интеллектом» все это направление имеет очень немного общего, если вообще что-либо имеет.) Что дальше? Здесь я уже могу заметить, что так же, как шимпанзе Кёлера, я начал устанавливать одни ящики-гипотезы на другие, но дорога к потолку, на котором метафорически осуществляется «выращивание информации», все еще далека. Информация, используемая как эмпирически или хотя бы только логически составленное «понимание» определенного явления, процесса, «вещи», может как возникнуть в массе менее или более научных, «неудачных», пугающих «проектов», так и подвергнуться такому отсеву, который соответствует СЕЛЕКЦИИ на «максимальную жизнеспособность» в естественной эволюции. Как приступить к такому отсеву — это вопрос, который сразу переносит нас, возможно, в самую трудную сферу науковедения, туда, где гостит метанаука с метатеориями, где решается, как возникают, как развиваются и как умирают научные теории. Мы уже знаем, благодаря Попперу, что теорию можно опровергнуть при столкновении с перечеркивающим ее экспериментом, но ее нельзя утвердить (верифицировать) так, чтобы она осталась для нас неизменной, безупречной и «вечной» правдой. Поэтому и после «выращивания познавательной информации» нельзя будет, как я предполагаю, ожидать какой-то абсолютно точной безупречности. Вероятно, оно только поддержит человека — станет еще одним инновационным помощником в поздней эпохе развития (или же саморазвития, не знаю) компьютеров. И говоря уже совсем в общих чертах, «информации» как «чистого дистиллята» быть не может. Информация всегда возникает, кристаллизуется и накапливается как очень похожая на правду, размещаясь на носителях — ими являются гены у живых существ, диски в компьютерах, страницы книг, конфигурации синаптически связанных нейронных сетей (например, в мозге). Действительно, именно в мозге могут также располагаться как «мемы» (по Докинсу) бесчисленные бредни, нелепости, глупости. Но это особый разговор.

6

Из простого приличия (или порядочности) я должен признать, что картина будущего «выращивания информации», очищенная, ясное дело, от ошибок и глупостей, остается более чем нечеткой: собственно говоря, я не смог и не смогу сказать, какое должно возникнуть соотношение этого «выращивания» с реальным миром. Это значит, что первый исследовательский импульс, как я до сих пор вижу, исходит не изнутри cyberspace,рождающего программы и компьютеры (следующих поколений), а от покровителей этого замкнутого в электронике «мира», представляющего высококогерентное, путаное, но и упорядоченное некое «целое». Или здесь вновь надо апеллировать к человеку как к исследователю: его любопытство, его заинтересованность создают МОТИВАЦИЮ, которой самоорганизующемуся «машинному псевдомышлению» на этом этапе постоянно еще не хватает. Или говоря несколько иначе, я стараюсь идти небольшими шагами в будущее. Наверное, эти шаги сейчас меньше, чем те, сделанные более тридцати лет назад. Тогда концепцию «выращивания информации», которая подвернулась мне как sui generisинверсия стратегии дарвиновской эволюции, я опубликовал смело, поскольку был почти уверен, что НИ ДО ЧЕГО ТАКОГО, о чем я писал в той книге («Сумма технологии»), я не доживу. Тот факт, что на склоне моей жизни «фантоматика» начала реализовываться как «виртуальная действительность», то, что мои дерзости, отражающие надежды и угрозы ГЕННОЙ ИНЖЕНЕРИИ, также попали на полосы ежедневных газет, не только не придал мне смелости, а, наоборот, поразил, лишил уверенности и сделал более осторожным в каждой попытке прогнозирования, поскольку польза, получаемая людьми от этих достижений, которые перестают быть фантазиями и иллюзиями, эта польза кажется мне все более подшитой примитивизмом дешевого развлечения и порожденной то ли коммерциализацией, то ли ЗЛОМ, стремящимся к власти.

Искусственный неинтеллект [122]

1

Я не знаю, почему повторяющейся темой в моей Science Fictionи футурологических текстах уже очень давно стали насекомые. Точнее говоря, не столько насекомые как живые биологические создания, а их различные копии или искусственные эквиваленты, сконструированные для самых разных целей и наделенные мною самыми разными формами. В романе «Непобедимый» они появляются как «черный дождь» или «черная туча», и хотя поодиночке они микроскопичны, объединяясь, могут производить огромную энергию, с помощью которой побеждают все боевые средства крейсера. Но это только пример: неоднократно бывало так, что определенная концепция, сначала выдуманная мною и введенная в фабулу произведения SF, затем вводилась в дискурсивные тексты, которые можно было бы назвать «наполовину фантастическими» и «наполовину прогностическими». Так в 1982 году я написал как составную часть «Библиотеки XXI века» произведение под названием « Weapon Systems of the XXI Century»и в этом, содержащем будто бы прогноз тексте, мы наталкиваемся на следующее описание, которое я дословно процитирую (по польскому изданию, « Wydawnictwo Literackie», Краков, 1986, но текст сначала появился на немецком языке). [123]

122

Sztuczna nieinteligencja, 1995. © Перевод. Язневич В.И., 2004

123

Цитата по изданию: Лем С. Библиотека XXI века. — М.: ООО «Издательство АСТ», 2002, с. 557–560 (Перевод К. Душенко).