Проект «Виртуальность»

— Хотя и не настолько суровый, как раньше. Возможно, человечество все же прогрессирует, пусть медленно и зигзагами. Вот мы, например, сумели же построить в Виртуальности свой если и не Золотой, то хотя бы Серебряный Век. Разве раньше такое стало бы возможно?

— Чтобы утверждать на все сто процентов, пришлось бы изобретать компьютер еще в античные времена. Но в целом, я думаю, ты прав.

— Возвращаясь к идее «оживления» Марса, можно предложить прислать сюда достаточное количество роботов, которые построят здесь фабрики по производству воздуха и воды, а потом населят растения и разведут животных.

— И не боишься, что вместо этого понастроят ракеты с атомными боеголовками и пошлют их в сторону Земли? Или просто не пустят потом сюда землян, приняв свою Декларацию о Независимости?

— Трудно сказать что-либо определенное. Подобная тема является одной из излюбленных в фантастических экшенах, как в свое время была популярной у фантастов. А вот насколько возможно в действительности — я думаю, точно не знает никто.

— А давайте спросим у представителя, так сказать, другой стороны. Джоана, а ты как считаешь, возможно ли восстание машин, или это и вправду из области фантастики?

Лара еле заметно усмехнулась уголками губ.

— Подобные идеи отражают бессознательный страх людей перед машинами, которые сами же и создают. Страх порождает агрессию, направляемую на источник беспокойства. Если помните историю, первым наиболее крупным актом подобной агрессии стало движение английских рабочих в начале XIX века, по имени своего предводителя Лудда получивших название луддитов. Они уничтожали мануфактурные станки, на которых работали, свято веря в то, что именно они виноваты во всех тяготах их жизни. По человеческим стандартам насилие должно порождать чувство мести, поэтому-то люди и боятся, что наступит миг, когда машины, «вспомнив» все прежние обиды, объявят войну человеческой цивилизации. Но исходная посылка здесь неверна — в отличие от людей машинам не присущи эмоции, так же как стремление к выгоде или инстинкт самосохранения. Отсутствие подобных стимулов делает подобный сценарий невозможным.

— А что насчет киборгов?

— Здесь ситуация посложнее. Киборги, как вы знаете, элита машинного мира, и ближе всего к человеку, как по строению, так и по интеллекту. Им в определенной степени присущ инстинкт самосохранения — стоимость каждого из нас достаточно велика, и тем выше, чем больше функций призван исполнять данный кибернетический организм. Если при создании последнего применены уникальные технологии, то такой штучный товар будет стоить целое состояние. Например, себестоимость вот этого тела, — она дотронулась до коленки сидящей рядом Элизабет, — примерно двадцать пять миллионов.

— Ничего себе! Получается, каждый из нас — ходячее сокровище!

— Так вот, продолжу. Высокий уровень интеллекта, особенно при наличии программы самообучения, способствует развитию любопытства. Поэтому первые кибернетические конструкции в массовом порядке попадали в разнообразные переделки. Кто чистого интереса ради разбирал находящиеся под током электроприборы, кто забирался погреться в топки и муфельные печи, кто, проверяя закон свободного тяготения, выпрыгивал из окон небоскребов, разбивая всю начинку. Это поставило перед инженерами-биоконструкторами сложнейшую задачу — смоделировать ситуации, могущие представлять для нас опасность. О том, как она решалась, можно рассказывать часами, — оказалось необходимым предусмотреть массу деталей, далеко не очевидных на первый взгляд. Например, с какой высоты киборг может упасть без ущерба для себя? Разные конструкции предполагают разную устойчивость. Но если здесь ситуацию можно упростить, задав ограничение по максимально возможной высоте для наиболее хрупких конструкций, то куда сложнее оказалось с определением термочувствительности. Принцип «стало горячо — уходи», использовавшийся вначале, привел к тому, что рабочие конструкции отказывались находиться в горячих цехах. Да и как можно заранее предусмотреть все опасные и травмирующие ситуации? После инцидента, когда один из киборгов-остолопов выпил растворитель, пришлось предусмотреть ограничения и на потребляемые средства энергетической подпитки. Спустя некоторое время разработали целый комплекс диетпитания, с указаниями для каждого продукта — годится он для андроида в пищу, или лучше воздержаться, а также перечень вещей, категорически запрещенных к приему внутрь. Список последних непрерывно расширялся, учитывая экзотические пристрастия некоторых из моих собратьев — вроде медного купороса или красной кровяной соли. Конечно, самым простым выходом из положения было бы все запретить, но тогда киборг ничему и не научится, и по сути мало чем будет отличаться от обычного примитивного автомата.

— Здесь есть что-то общее с методами воспитания детей, — задумчиво произнесла Мириам, ни к кому конкретно не обращаясь, — однако тогда андроид будет постепенно приобретать отдельные черты индивидуальности, становясь самостоятельной личностью.

— И это тоже есть, но вначале доскажу свою мысль. Стремление избежать опасности логически порождает желание ее упредить. Если киборг сочтет, что распоряжение со стороны человека, не обоснованное насущной необходимостью, приведет к повреждению его функциональной целостности, он может отказаться выполнить приказ, приведя причины отказа. Правда, мы устроены таким образом, что повторение распоряжения хозяином киборга приведет последнего в состояние безусловного подчинения — даже если то будет приказ сунуть руку под бензопилу или голову в атомный реактор.

— Какой ужас! — воскликнула Янка. — Неужели такое возможно?

— Бывало и не такое; фантазия человека, особенно при наличии у него солидной суммы денег, поистине безгранична. Если же программа безусловного подчинения даст сбой, киборг скорей всего вообще откажется делать что-либо. Но для того, чтобы он напал на человека, необходимо выключение совсем другой программы, налагающей на подобное действие категорический запрет. Такая программа обычно дублируется; попытки вывести ее из строя извне приведут к уничтожению всей вложенной информации. Таким образом, как нетрудно сделать вывод, вероятность такой агрессии, хоть и не является строго нулевой, практически ничтожно мала.

— Однако, насколько я знаю, — вступил в разговор Родриго, — время от времени в средствах массовой информации проскальзывают сообщения о преступлениях, совершаемых при участии андроидов.

— Так-то оно так, однако кто является организаторами подобных злодеяний? Разве киборги? Они — лишь орудия в руках преступника, такие же, как пистолет в его кармане или элькар, на котором он скроется с места преступления. К сожалению, бывает и так, что приобретенных легальным путем киборгов перепрограммируют, снимая ряд ограничений. И вот тут уже действительно страшно — получившийся монстр выполнит любую, подчеркиваю: любую команду своего хозяина. Ведь угрызения совести нам неведомы, это удел живых существ. Конечно, наказания за подобные деяния очень суровы: модифицированным киборгам немедленно стирают всю информацию, а хакерам и их работодателям в лучшем случае светит одиночное заключение лет примерно на двадцать как минимум, а в худшем — пожизненные исправительные работы на каких-нибудь урановых или ртутных рудниках. Но подпольный бизнес их производства не умирает — слишком высоки ставки.

— Значит, можно сделать вывод, что машинный бунт в обозримом будущем нам не грозит?

— Только если не будет в том интереса кого-нибудь из ваших соотечественников.

Воцарилось молчание, каждый по-своему обдумывал услышанное. Первым его нарушила Джессика:

— Джоана, расскажи, а что вообще умеют делать киборги и какими они бывают?

— Хороший вопрос, причем одна его часть логически связана с другой. Начну с того, что характерным нашим отличием от обычных роботов является пластичная форма, сделанная из органических материалов, в сочетании с металлическим скелетом, а также наличие нервных рецепторов, функции которых тождественны таковым для живых организмов. Киборги вовсе не обязательно должны иметь человекоподобную форму — они могут быть какими угодно. Некоторые, например, без ума от своих любимцев — биомеханических собачек и кошечек, которые не болеют, не гадят и всегда готовы поиграть с хозяином. В ряде случаев специфические конструкции создаются исходя из чисто практических соображений — например, кибернетические мыши оказались полезны при внутреннем осмотре вентиляционных систем, а биомеханические птицы во многих крупных городах стали незаменимыми спутниками отрядов полицейских. Но ограничу свое повествование кибернетическими копиями людей.

Самым распространенным классом андроидов являются слуги, использующиеся в качестве дворецких в богатых домах, официантов в фешенебельных ресторанах, администраторов в семизвездочных отелях, секретарей в офисах крупных корпораций. Работенка непыльная и не сопряжена с риском — разве что раздраженный хозяин, посетитель или клиент сорвет на тебе свое душевное расстройство. Зато и в утилизатор не спишут — проверенные временем и хорошо вышколенные слуги ценятся буквально на вес золота.

Другую многочисленную группу составляют рабочие. Идеальные труженики, готовые работать круглые сутки, не прося прибавки к жалованию. И если бы не высокая цена, ваш мир ждала бы массовая безработица. Пока они используются в ограниченных масштабах — в основном на производствах с очень высокой степенью вредности, где их применение экономически оправдано из-за значительных ограничений на использование человеческой рабочей силы, накладываемых профсоюзами, а также на строящейся лунной базе. Кстати, модели «лунных» киборгов послужили прототипами для ваших тел — разрабатывать их начали чуть раньше, но потом обе задачи свели воедино. Далее, еще есть боевые киборги…

— Вот чье производство следует запретить! — неожиданно воскликнул Аньчжи. — Если кто и представляет опасность для человека, так это именно они!

Лара холодно взглянула на него. Еще бы, задета профессиональная честь, подумал про себя Артур.

— Вы ошибаетесь. Боевой киборг представляет опасность только на ринге и только для существа, обозначенного как «цель»; все остальное запрещено. К тому же каждый бой для него может стать последним — противник, как правило, не уступает по силе, иначе кто бы пришел смотреть на избиение младенцев? Получение серьезного увечья подчас равносильно смертному приговору — если хозяева сочтут, что ремонт обойдется дороже приобретения нового бойца. Поэтому сроки жизни большинства из них не превышает полутора-двух лет, и если человек, прославившийся своими победами, может рассчитывать на солидные гонорары за каждое выступление, гарантирующие ему безбедную старость, то киборгу в аналогичной ситуации достанутся лишь бурные продолжительные аплодисменты. Поэтому я трижды подумала бы, прежде чем выносить столь категоричный вердикт.