Молох (сборник)

С помощью фантоматики можно создавать в высшей степени реалистичные учебные и тренировочные ситуации; следовательно, она может использоваться для обучения любых специалистов: врачей, летчиков, инженеров и т. д. При этом исключается опасность авиационной катастрофы, неудачной хирургической операции или аварии, вызванной неправильно рассчитанной конструкцией. Кроме того, она позволяет исследовать психологические реакции, что особенно важно при отборе кандидатов в космонавты и т. д. Маскировка фантоматического спектакля позволит создать условия, когда испытуемый не будет знать, действительно ли он летит на Луну или это ему только кажется. Такая маскировка необходима, ведь нужно определить подлинные реакции человека в реальной аварийной обстановке, а не при ее имитации, когда каждому легко проявить «личное мужество».

«Фантоматические тесты» позволят психологам лучше изучить самые разные реакции людей, исследовать природу возникновения паники и т. д. Они позволят ускорить отбор абитуриентов в различные учебные заведения и для различных профессий. Фантоматика может оказаться незаменимой для всех тех, кого условия вынуждают долго находиться в одиночестве и относительно ограниченном замкнутом пространстве (на научной арктической станции, в кабине космического корабля, на внеземной обсерватории или даже в помещениях звездолета). Благодаря фантоматике годы полета до звезды можно заполнить нормальной деятельностью, какой члены экипажа занимались бы на Земле, — это могут быть годы путешествий по материкам и морям нашей планеты или даже годы учебы (потому что в фантоматическом сеансе можно также слушать лекции знаменитых профессоров)».(Благодаря экспертным программным системам уровень науки может быть существенно повышен — приписка 1991 года, Лем.)

«Фантоматика будет истинным благословением для слепых (кроме тех, у кого слепота центрального происхождения, то есть у кого поврежден зрительный центр коры головного мозга), им она откроет огромный мир зрительных впечатлений. Таким же благословением будет она и для инвалидов, больных, выздоравливающих и т. д., а также для стариков, желающих еще раз пережить молодость, — одним словом, для миллионов людей. Мы видим, что ее развлекательные функции могут отойти на второй план.

Фантоматика, конечно, понравится не всем. Появятся группы ее ярых противников, обожателей подлинного, которые будут презирать немедленность исполнения желаний в фантоматике. Я думаю (в 1962 году), однако, что будет достигнут разумный компромисс, так как в конечном счете любая цивилизация является облегчением жизни человека, а прогресс в значительной мере сводится к дальнейшему расширению области этих облегчений. Несомненно, что фантоматика может стать и настоящей опасностью, общественным бедствием, однако такая же возможность существует (хотя и не в одинаковой степени) и для любых достижений технического прогресса. Общеизвестно, сколь опасные последствия по сравнению с техникой пара и электричества может иметь злонамеренное использование атомной энергии. Однако эта проблема касается уже общественных систем и господствующих политических отношений и не имеет ничего общего ни с фантоматикой, ни с какой-либо областью техники».

Фантоматика будет их зависимой величиной, хотя не обязательно функцией (в математическом понимании).

Последние предложения я дописываю в мае 1991 года, чтобы добавить в заключение еще одно замечание. В прейскурантах фирм, производящих системы приспособлений для «виртуальной реальности», я вижу такие позиции, как Eye-Phone— цена 9400 долларов, Data-Glove(8800 долларов), пакет VPL(комплект за 220 000 долларов, в который входят два компьютера типа Apple Mac II), причем реклама уверяет, что тяжелые надеваемые Eye-Phoneимеют по 86 000 образоформирующих точек, а Data-Gloveвдоль каждого пальца подключена синхронно к аппаратуре так, что все в совокупности работает в реальном времени, то есть «фантоматизированный» не замечает малейших задержек между своими движениями и изменениями адекватного восприятия и т. д. Я не могу и не хочу изменять конец этого текста в рекламном проспекте фирмы VPL Researchиз калифорнийского Редвуд-Сити. Вышеприведенные сведения, датированные летом прошлого (1990) года, подтверждают, что существование зачатков того, что я назвал фантоматикой, уже не является ни утопией, ошибочно принимаемой как точный прогноз, ни фантастической сказкой. Что же делает философ, который в такое время публикует свои избранные эссе за тридцать прошедших лет? В соответствии с названием антологии переизданий «Похвала непоследовательности» («Pochwaіa niekonsekwencji». — London, «Puls», tom III, pp. 42–51) спокойно повторяет, что все, что в 1963–1964 годах выдумал Лем о фантоматике, является сказкой.

Тайна китайской комнаты

Человек и машина [31]

1

«Человек-машина» — это работа французского философа-материалиста Ламетри, написанная в середине XVIII века. Не подлежит сомнению, что как сторонники, так и противники подобной крайней точки зрения на человеческую природу нашлись бы и сегодня. Другими словами, выражаясь более современно, спор был бы разрешен только тогда, когда мы смогли бы создать машину, равнозначную человеку. Однако что означает «равнозначная» человеку? Наше сходство с другими живыми тварями в физическом плане не вызывает сомнения: человек — это живородящее млекопитающее, обладающее органами, которые в очень небольшой степени отличаются от органов и общей физиологии других млекопитающих; отличает же нас от них разум, то есть мозг.

31

Czіowiek i maszyna, 1993.

2

Как легко может догадаться Читатель, этими немного туманными словами я приближаюсь к вполне современному вопросу, который поставил почти полвека назад английский математик Алан Тьюринг: возможно ли сконструировать такой «конечный автомат» (компьютеры являются такими автоматами как одна из ветвей информационного дерева, выросшего из зерна кибернетики), который не удалось бы в разговоре отличить от человека? В 60-е годы я много раз участвовал, главным образом в бывшем Советском Союзе, именно в таких дискуссиях и горячих спорах, в которых эту проблему пытались разгрызть. Как известно, программы ( software), способные вести некоторые разновидности разговоров с человеком, уже существуют. Однако любую такую программу, имитирующую разумного собеседника, можно раньше или позже «разоблачить». Простейшим способом, до которого (не знаю почему) никто или почти никто не додумался, является рассказ неизвестному участнику дискуссии простенькой истории, например анекдота или шутки, и требование, чтобы рассказанное он повторил своими словами. Машина легко повторит все буквально; нормальный человек не сможет быть точным в пересказе, поскольку он запоминает не столько сложенный из слов ТЕКСТ, сколько его СМЫСЛ, то есть понимает рассказ. Перед нами возникает реальная проблема: можем ли мы и каким образом убедиться в том, что машина «компьютер» понимает что-либо подобно человеку? Необходимо вначале отметить, что «понимание чего-либо» имеет свои уровни и виды. Собака в некотором смысле «понимает», чем занимается ее хозяин, когда видит, как тот собирает чемодан, ибо это она уже видела и «знает», что предстоит какая-то поездка. Но даже и муха «знает», что ей грозит от мухобойки, которой размахивает человек, разгневанный на ее назойливость. Способ, посредством которого разные виды «знания» различаются между собою в различных ситуациях, невозможно проще объяснить, кроме как отталкиваясь от «инстинктов», среди которых основным является инстинкт самосохранения, и в этом самая суть дела. Ни один компьютер, в совершенстве играющий в шахматы, или переводящий научные тексты, или ставящий диагнозы по результатам анализов и информирующий о болезнях, не будет пытаться избежать ударов молотком или киркой, то есть не проявит «инстинкта самосохранения», который лежит в основе «формирования» всех видов живых тварей (за исключением растений). Тот, кто не пробовал кого-нибудь сожрать и не пытался противостоять пожиранию его другими в ходе миллиарднолетних эволюционных процессов, исчез; и только успешно поедающие и успешно убегающие остались жить.

3

Правда, некую разновидность «инстинкта самосохранения» можно было бы в компьютерах реализовать, однако подобные меры не приблизят нас к разрешению проблемы. Дуглас Хофштадтер в своей толстой, забавной и интересной книге « Metamagical Themes» описывает ситуацию, когда он должен был отличить человека от машины, при этом в конце оказалось, что он разговаривал с несколькими студентами, отвечающими на его расспросы ТАКИМ ОБРАЗОМ, чтобы сбить его с толку. Когда он уже решил, что разговаривает с компьютером, правда была раскрыта. Что из этого следует? В наиболее примитивной форме дело представляется так, как я описал в «Сумме технологии» более тридцати лет назад. В книге говорилось, что можно осуществлять очередные и вместе с тем более перспективные конструкторские работы (сегодня я бы сказал «программирование»), меняя «разоблаченные» компьютеры на более совершенные с точки зрения имитации, и, может быть, дошли бы до такой модели, которую в разговорах отличить от человека было бы невозможно.

4

Между прочим, даже для повторения рассказанного найдутся уловки. Именно машины, сортирующие (например) научные статьи, запрограммированы таким образом, чтобы различать тексты в соответствии со «словами-ключами». Если частота появления таких слов, как «плазма крови», «гемофилия» или «клеточная оболочка», перешагнет определенный порог, значит, текст, вероятнее всего, относится к области медицины или (шире) биологии. Если в нем появляются «кварки» или «нуклиды» — понятно, куда его отнести. Однако поступая этим первоначально очень примитивным и «ничего не понимающим» способом, можно научить машину пересказывать так, чтобы повторение представленного ей текста было «скелетным» — грамматически, лексикографически и стилистически очень близким к рассказанному, но чтобы оно не совпадало дословно с исходным. То есть можно сделать машину удачным «обманщиком», выдающим себя за живого участника дискуссии, и на этом этапе появляется следующая проблема.

5

Мы не должны заниматься исключительно загадочным собеседником: следует интересоваться и тем, КАКОЙ ЧЕЛОВЕК тестирует машины. Ибо горький пьяница и тупица не будут квалифицированными экспертами наравне с человеком, имеющим диплом о высшем образовании, или писателем, или каким-нибудь необычным гением.

6

Впрочем, задача, поставленная Тьюрингом, сильно изменилась вследствие того, что именно сегодня о разнообразных возможностях компьютера мы знаем больше, чем о том, каким образом функционирует наш мозг. По моему мнению, основывающемуся не столько на чтении работ из области нейрофизиологии, сколько на собственном интроспекционном опыте, мозг состоит из большого количества подсистем, соединенных между собою для совместной работы таким образом, чтобы обеспечивать оптимальное получение результатов на основе различной информации, а также отражать необычайно долгий исторический (эволюционный) путь, который прошел мозг за тысячи поколений животных, впоследствии — гоминидов, а на финише — нас. Определенную зависимость сознания (боюсь этого термина) от состояния мозга стареющий человек испытывает в большей степени, чем молодой, находящийся в хорошем психическом состоянии. У такого старика, как я, иногда случается, что забывается имя хорошо известного ему ученого, например Пригожина или Планка. Усилие, прилагаемое для воспоминания (чего-либо), почти невозможно описать. Впрочем, часто оно оказывается напрасным, но видимая бесплодная работа «сознания» тем не менее приводит в движение некоторые механизмы из раздела « information retrieval [32] », так как почти всегда, раньше или позже, иногда через несколько десятков секунд, иногда на следующий день, искомый термин (здесь: имя) «всплывает» из непамяти. Как он был найден — не имею понятия, и пока никто не может мне этого объяснить. В любом случае здесь мы видим одну сторону владения профессиональной информацией, имеющейся в памяти. С другой стороны, человек, занятый напряженной умственной работой (или склеротик), много времени тратит на поиск очков, газеты, письма, так как откладывание, прятанье, оставление «где-то» выходит ЗА пределы запоминаемых действий, которые сознание ДОЛЖНО вложить хотя бы в извилины «кратковременной памяти». И эти неосознанные и беспамятные действия нередко бывают «осмысленными» и соответствуют обстоятельствам, то есть речь не идет о хранении носков в холодильнике или мороженого в ящике стола. Бывает это — как мы говорим — «неосмысленно», подобно поведению эпилептика, склонного к так называемому « petit mal», что значит моментальное временное «отключение» сознания, причем оно МОЖЕТ БЫТЬ присутствующими наблюдателями обнаружено либо нет, ибо иногда «пробел сознания» заполняется автоматически продолжаемым без перерыва действием. Таким образом, вместо приближения к расшифровке «сущности сознания», чтобы (кроме всего прочего) подойти к вопросу его имитации, мы встречаем новые препятствия. Выявление функций частей мозга благодаря рассечению corpus callosum, большой спайки, соединяющей двумястами миллионами нейронных волокон оба полушария мозга, а также вызванное этой операцией определенное «разделение» разума на два практически независимых «разума» эту проблему в последние годы удивительно усложнило. Неизвестно (опять), почему мы имеем мозг двудольным, является ли это следствием возникшей за многие миллионы лет двусторонней симметрии тел всех животных, которые нам предшествовали (то есть имеем дело с наследством «эволюционных решений» за веки веков), или скорее это результат взаимодействия нейронных систем, создающих мозг, работа которого на сегодняшний день оптимальна. Я скорее придерживаюсь первой версии объяснения, однако никакого доказательства ее верности предоставить не могу.

32

информационный поиск (англ.).

7

Возможно, что крутой тропинкой вывода я привел проблему к еще большей запутанности. Мне кажется, что тест Тьюринга, настолько сильно зависящий от развития и возможностей hardwareи software, с каждым разом становится все менее убедительным определителем Человека и Машины. При этом возникает вопрос, наверное, больше интересующий философов, чем экспертов-информатиков: на кой черт нам нужна машина, так эффективно имитирующая человека, своим речевымповедением неотличимая от человека? Очевидно ведь, что эволюция компьютеров вместе с эволюцией программ от нашего разума не только и не просто ОТДАЛЯЕТСЯ, но одновременно вступает, причем во все увеличивающемся масштабе, в мыслительные пространства человека, которые в общем-то недоступны. То, что ни интуитивно, ни логически и осмысленно в области воображаемого конструирования мы имитировать сами не можем, смогут компьютеры. Наш мозг благодаря истории своего возникновения унаследовал и развил аффективную жизнь, все эти виды основных и дополнительных эмоций, стрессов, чувств, радости, терпения, грусти, счастья, боли, которые «бессознательному бытию» компьютеров остаются совершенно чуждыми, без которых компьютер ДОЛЖЕН обойтись и без которых — как утверждают нейрофизиологи — компьютер подражать человеку в его сознательной жизни никогда не сможет.