Диалоги

ГИЛАС. Ну хорошо, а как же в таком случае с электрической сетью, то есть с мозговым протезом?

ФИЛОНУС. Такой протез можно сконструировать с определенным «запасом», с «функциональным резервом». Однако, как ты уже, наверное, сам догадался, даже речи не может быть о каком-то там «бессмертии», ибо его носителем должен был бы быть мозг бесконечно огромный и бесконечно сложный – чтобы вместить хотя бы только сумму бесконечного (или попросту огромного) количества воспоминаний.

ГИЛАС. То есть вся перспектива, вся эта картина «перемещения» психики – не более чем фикция?

ФИЛОНУС. Нет. Это просто маловероятная, но физически, материально неисключаемая возможность. Я тебе уже говорил накануне, что нам неизвестна верхняя граница сложности систем типа сети. Может быть, при использовании электрического тока и более совершенных, чем сейчас, функциональных единиц, тождественных нейронам, можно было бы сконструировать сеть в десять или сто раз более совершенную, чем человеческая.

ГИЛАС. Отлично. Тогда у нас получился бы «синтетический гений»?

ФИЛОНУС. Посуди сам, если мы изучим общую теорию сети, то с ее помощью мы сможем конструировать сети с произвольными признаками (физически возможными, разумеется; мы не можем построить сеть, действие которой противоречило бы законам Природы). Общее доказательство выдающегося английского математика Тьюринга представляет нам теоретическую возможность создания сети, которая «может абсолютно все», то есть, ясное дело, все, что возможно. В этом смысле возможно в будущем предположить создание сети, способной творить симфонии или рассуждать, каковы могут быть отличные от земных варианты эволюции жизни на непохожих на нашу планетах.

ГИЛАС. Филонус, ты надо мной насмехаешься!

ФИЛОНУС. Друг мой, неужели ты почувствовал себя задетым с точки зрения человеческого достоинства? Но почему тогда тебя не трогает вид подъемного крана, который в десять тысяч раз сильнее тебя, и при этом оскорбляет образ машины, в тысячу раз более понятливой, чем ты? Как энергетическая машина увеличивает силу человека, так информационная машина увеличивает его познавательные способности! Заметь, пожалуйста, что накопление знаний ставит перед нами все более трудные задачи. Математика ХХ века – значительно более сложная и требующая большего напряжения мысли область, чем математика века Х, а наши мозги остаются все такими же, как и мозги людей тысячного года, поскольку математика развивается от десятилетия к десятилетию, в то время как эволюция мозга (то есть расширение его возможностей, улучшение четкости его работы) происходит в темпе, в миллионы раз более медленном. Если сами мы не в состоянии поднять определенную тяжесть, мы строим машину, которая этот груз сдвинет. Если сами мы не в состоянии разрешить определенную интеллектуальную проблему, то мы построим машину, которая эту проблему решит. Я, право же, не понимаю, что в этом унижает человеческое достоинство? Ведь, в конце концов (если ты это имеешь в виду), это мы создадим «синтетического Эйнштейна», а не он – нас!

ГИЛАС. Дело не в этом, дело в том, что такая перспектива, такая картина будущего неотступно создает навязчивое впечатление ненужности человека. Мыслящие машины типа «синтетического гения» не нуждаются в нас, в нашем сотрудничестве, в нашем контроле, как нуждаются в них подъемные краны и паровые молоты.

ФИЛОНУС. Ну и что с того, если они работают на нас?

ГИЛАС. То есть ты считаешь, что машины в будущем станут опережать человека во всех областях?

ФИЛОНУС. Эка хватил! Уже опережают! Любая плохонькая электронная счетная машина справится с заданием, с которым за всю жизнь не справится лучший математик. Существует такой в общем-то смешной и очень наивный миф о заводах будущего как о просторных, заставленных пальмами цехах, полных автоматов, где на центральном пульте стоит человек в белоснежном халате, контролирующий производство... Это (если взять для примера химический завод новой формации) абсолютно невозможно. В новой химической промышленности внимание сосредоточено на реакциях, протекающих с огромной скоростью в раскаленных газах. В этих условиях возникают, именно в области газового пламени, различные ценные химические субстанции, существующие лишь долю секунды. Чтобы их уловить, необходимо поддерживать реакцию, являющуюся их источником, и одновременно непрерывно выводить их из области высокой температуры. Процессы контроля и управления должны происходить за доли секунды, с чем человек не в состоянии справиться, если учесть малые скорости нервных импульсов. А значит, человеку в белом халате нечего делать на этом заводе, пока производство в порядке – под контролем электронного мозга.

ГИЛАС. А если этот мозг сломается, то он его починит.

ФИЛОНУС. Или он, или соответственно настроенный на подобную операцию другой электронный мозг, который выполнит ремонт значительно быстрее и четче.

ГИЛАС. А если и тот сломается?

ФИЛОНУС. А если человек заболеет? Здесь нет никакого regressus ad infinitum, есть только определенная иерархия автоматов, взаимно контролирующих функции, замкнутый круг, который, разумеется, может разомкнуться из-за какой-то неполадки. Сегодня эти дефекты устраняют люди, но завтра?

ГИЛАС. Однако в твоем примере речь в основном идет о проворстве, о быстроте реакции, как, например, в случае со счетной машиной. Получается, что электронные мозги побивают человека только в скорости действий.

ФИЛОНУС. Согласен. Давай возьмем другой пример, где речь идет не о проворстве, а о высшей способности сети как интегрирующей единицы. Как ты прекрасно знаешь из собственного опыта, мыслительный процесс тем труднее, чем больше элементов (понятий) сознание должно охватить одновременно. Поэтому легко производить в уме простейшие арифметические операции, но трудно извлечь корень четвертой степени из десятизначного числа. Однако это всего лишь проблема «временной памяти», то есть фиксации в ней промежуточных результатов, отдельных этапов математического вычисления. В таких вычислениях мы имеем дело с раз и навсегда данными, принципиально неизменными от начала и до конца указаниями к действию (сначала ты должен умножить, потом запомнить полученный результат, потом разделить и т.д.). Когда же речь идет об обобщении большого количества фактов в теорию, по мере самого процесса организации этих фактов в обобщение высшего уровня изменяются и указания к действию, которые не являются окончательными, а следуют из очередных построений. Когда, например, из данных астрономии, физики и математики мы пытаемся создать теорию гравитации более общую, чем ньютоновская, приходится иметь дело с таким огромным количеством факторов, которые необходимо учесть одновременно, что только сеть с чрезвычайно высоким коэффициентом полезного действия может с этим справиться. Такой сетью располагал, да простится мне столь неуклюжее определение, Эйнштейн. Так вот, в будущем не каждый сможет стать Эйнштейном, но каждый будет иметь к своим услугам достаточно оперативную машину для мышления.

ГИЛАС. Но представь, какие губительные перспективы открывает такая возможность! Какое-то время набирающие мощь электронные мозги еще будут выполнять действия, которые люди смогут понять, охватить разумом, оценить хотя бы приблизительно. Однако впоследствии эта раз обнаруженная пропасть начнет расширяться. Мыслящие агрегаты станут представлять нам результаты своих теоретических разработок, которые мы, возможно, и сможем применить, но понять их мы уже окажемся не в состоянии. Будет все увеличиваться область явлений, которыми станут распоряжаться автоматы. В конце концов люди съежатся до размеров безмозглых слуг железных гениев и, может быть, начнут оказывать им божеские почести...

ФИЛОНУС. Вообрази себе, дружище, что слова твоего пророчества по отношению к роду человеческому уже исполнились, к тому же в довольно отдаленном прошлом.

ГИЛАС. О чем ты? Я не понимаю.

ФИЛОНУС. Возникновение электронных мозгов – это начало эволюции средств мышления. Потенциально они могут стать независимыми от человека, как уже стали независимыми от него результаты его общественной и производственной деятельности. С возникновением общества оформилось разделение труда, специфика производственных сил и способ производства создали машину, которая, освобождаясь от человеческой воли, все более влияла на судьбу индивидов, вплоть до того, что были времена, когда человечество этой машине – государству – стало оказывать почти божеские почести... Это не случайная и не поверхностная аналогия, мой Гилас! Люди ни в коем случае не должны – ни сейчас, ни в будущем – утратить контроль над творением их собственных рук и мозгов. Они ни в коем случае не имеют права предаваться спокойной бездумности, интеллектуальной лени, розовому оптимизму, наивной вере в то, что то или иное изобретение или та или иная общественная организация спонтанно, автоматически гарантирует наступление Золотого века. Никакие проявления неудовольствия, никакое отвращение, никакие исполненные возмущения причитания вроде: «и все-таки человек – венец творения» не изменят фактов, а создание все более совершенных и функциональных электронных мозгов есть факт бесспорный, и никто их не отменит в нашей земной жизни, раз уж они в ней появились. Если человечество не будет тщательно анализировать все, именно все, то есть также и отрицательные, самые мрачные последствия развития электронного мозга, то результаты его эволюции могут оказаться еще более губительными, чем кризисы, экономические катастрофы, безработица и хаос свободного капиталистического рынка. Именно поэтому мы так много рассуждаем о кибернетике, стремясь – зачастую тщетно – понять все, что она может нам сказать о явлениях, на первый взгляд так отдаленных во времени, как биологическая эволюция и психология, общая теория информации и социология.

ГИЛАС. Ты забыл упомянуть эсхатологию, науку о последних временах, ведь ее материалом являются представления о вечной жизни, а значит, тем самым – и о твоей пересадке живой человеческой личности на мертвый мозговой протез. Допускаешь ли ты, имеешь ли ты смелость предположить, что кто-нибудь когда-нибудь попробует реализовать подобную пересадку психики из живого тела в мертвый металл машины?

ФИЛОНУС. Система привилегированных принципов мышления, то есть система предпочтений, действует не только в отдельных нейронных сетях, друг мой, но также и в обществе. В этом смысле культура – это система исторически возникших предпочтений, суммирующих определенным образом реакции представителей человечества на внешние и внутренние импульсы. Конвенциональный, то есть исторически обусловленный, относительный характер большей части этических норм, нравственных установок, действующих законов сегодня ни у кого не вызывает сомнений. Концепция перемещения живой человеческой психики внутрь мертвой машины представляется нам сегодня чем-то в корне противоречащим нашим устоявшимся фундаментальным навыкам умственной жизни, чем-то низким, недостойным, антигуманным, чем-то неприемлемым. Однако нельзя исключать того, что в будущем – в результате глубоких изменений системы общественных предпочтений, изменения норм – восприятие этой проблемы изменится диаметрально. Посуди сам, мы говорим об операции, проведение которой станет возможным только в очень далеком, на тысячелетия отстоящем от дня сегодняшнего будущем. Эволюция электронного мозга таит в своей глубине еще не одно могучее потрясение общественного мировоззрения. Только представь себе возможность создания электронного мозга, интеллектуально и функционально более или менее идентичного человеческому, причем из этих машин можно будет «воспитывать» (как я уже говорил) верующих и святош. Понимаешь ли ты, какого чудовищного противника обретут в электронном мозге все без исключения религиозные верования? Какую софистику будут вынуждены развить богословские науки в свою защиту перед лицом несомненных фактов проявления «духа» среди электрических проводников и катодных ламп? А другая проблема, значительно более масштабная, значительно более трудная для преодоления, чем конфликт спиритуализма и кибернетики: что делать людям в обществе с полностью автоматизированным производством всего? А чудовищная, производная от этого опасность возникновения общества, только потребляющего, инертного, обреченного на жизнь в наивысшей материальной роскоши и полном умственном застое – перед фактом, что любое человеческое намерение что-либо сделать будет откровенным абсурдом в сравнении с возможностью реализовать это совершеннейшим образом с помощью мыслящих устройств? Вот проблемы, с которыми человеческий разум должен соизмеряться уже сегодня, которые он должен – любой ценой должен! – одолеть. Ты требуешь от меня ответов, которых у меня нет, Гилас. Так уж есть, и всегда так было в истории, что сначала появляется неизвестное, пусть даже дело рук человеческих, что сначала возникают вопросы, и только потом, в процессе изнурительного труда возникают ответы – формируемые жизнью целых поколений, ответы несовершенные, часто ошибочные, неполные, и прежде чем проблема оформится и разрешится, на горизонте возникают уже новые непонятные явления и новые знаки вопросов. И на этом рассуждении мы сегодня закончим, оставляя себе еще только одну, видимо наиболее сложную для обсуждения проблему. Я имею в виду социологию, изложенную в понятиях кибернетики.

VII

ГИЛАС. Знаешь, Филонус, мне кажется, что я обнаружил принципиальную разницу между электронным мозгом и организмами. Ведь каждая электрическая сеть, выполнив задание, способна забыть о нем по приказу – именно так счетные электронные машины, выполнив поставленное перед ними математическое задание, самым распрекрасным образом о нем забывают. В то время как живой мозг никогда не забывает собственного прошлого – по крайней мере в его основных чертах. Из этого следует, что для нейронной сети вся жизнь от начала и до конца является как бы одним большим заданием; во время его решения формируется ее личность, характер, ее индивидуальность. Поэтому такая сеть не может начать жить «по-настоящему заново», «еще раз все начать», стать вдруг незаписанной и пустой, какой может стать электрическая сеть. Прав ли я?

ФИЛОНУС. Прав относительно существующих сегодня моделей электронного мозга, но не прав по отношению к тем, которые можно будет сконструировать в будущем. Ведь если подумать, то конструкторы сети, как я уже говорил, не имитируют подряд весь комплекс функций мозга, а стремятся только создать устройства, способные копировать определенные, отдельно взятые узкие сферы деятельности нервной системы. Понятно, что конструкторы никогда не стремились создать «самостоятельную» цепь или же сеть, «способную к созданию собственной индивидуальности», они стремились сформировать контрольно-регулирующее устройство для промышленности, машины, воспринимающие логику, орудия, сбивающие самолеты, и т.д., а возникновение в таких устройствах некоторых аналогий с функциями нервной системы для них самих было сюрпризом. Значительно позднее были начаты работы по созданию машин, имитирующих поведение живых организмов, как, например, машин, обучаемых по принципу безусловного рефлекса, обнаруживающих элементарные способности к следованию, и т.п. Необратимость процессов, происходящих в нейронной сети, тесно связана с ее необъятной сложностью, а также (в определенной степени) с самим материалом, поскольку происходящие в нем (в процессе старения) физико-химические изменения существенно влияют на нейронные процессы. Такая сеть (в случае человека) тем более индивидуальна, что формируется она в процессе индивидуального развития не только функционируя. Как ты, наверное, знаешь, у ребенка большие отделы мозга почти совсем еще не активны и включаются в функцию сети годами – между вторым и седьмым и даже десятым годами жизни. Анатомически этому процессу соответствует мнелинизация нервных волокон в определенных областях мозга (особенно в лобной доли, где – поскольку это область психических процессов высшего уровня – деятельность формируется в последнюю очередь). Несомненно, именно с этим связаны особенности функционирования нейронных сетей, из которых я выделю только одну, а именно «субъективное время», субъективное ощущение скорости его протекания. Восприятие темпа в молодости совершенно отличается от восприятия в зрелом возрасте; один час для ребенка проходит значительно дольше, чем для взрослого. Это ни в коем случае не является иллюзией, это эффект увеличивающейся дифференциации, возрастающей сложности сети (и тем самым происходящих в ней процессов). Как видишь, хотя бы на этом примере необратимость процессов, происходящих в нейронной сети, имеет свои серьезные и многочисленные причины (потому что, как мы уже отметили, такая сеть развивается как функционально, так и структурно, в объеме, увеличивая свою информационную проводимость и вместимость). Конечно, можно создать электрическую сеть, которая «росла» бы подобным образом, то есть вначале было бы только относительно простое «активное ядро», к которому со временем, по мере необходимости, поочередно подключались разнообразные вспомогательные узлы – естественно, таким образом, чтобы это не создавало конфликтов между процессами первичного «активного ядра» и упомянутыми «узлами». Однако в данный момент нас интересует не этот аспект затронутой тобою проблемы, а другая ее сторона – ее применение в исследовании структуры и функций общества. Общество парадоксальным образом более подобно электронному мозгу, чем живому организму, как система (организованное собрание) элементов, соединенных обратными связями.