Три Закона роботехники

– Понимаю, – сказал Робертсон, хотя ничего не понял. Ну, а информация, которую предлагает нам “Консолидэйтед”?

– Несомненно, она связана с подобной запретной проблемой, – ответила доктор Кэлвин – Но наш Мозг сильно отличается от робота “Консолидэйтед”.

– Это верно, шеф. Это верно, – энергично перебил ее управляющий. – Я хочу, чтобы вы это запомнили, потому что в этом все дело.

Глаза Кэлвин блеснули под очками, но она терпеливо продолжала:

– Видите ли, сэр, в машины, которые есть у “Консолидэйтед”, и в том числе в их “Супермыслителя”, не вкладывается индивидуальность. Они предпочитают функционализм, что вполне понятно, поскольку основные патенты на мозговые связи, определяющие эмоции, принадлежат “Ю.С.Роботс”. Их “Мыслитель” просто грандиозная счетная машина, и дилемма выводит ее из строя немедленно. В то же время наш Мозг наделен индивидуальностью – индивидуальностью ребенка. Это в высшей степени дедуктивный мозг, но он чем-то напоминает ученого дурака. Он не понимает по-настоящему, что делает, – он просто это делает. И, поскольку это, в сущности, ребенок, он более жизнеспособен. Он не слишком серьезно относится к жизни, если можно так выразиться.

Сьюзен Кэлвин продолжала:

– Вот что мы собираемся сделать. Мы разделили всю информацию “Консолидэйтед” на логические единицы. Мы будем вводить их в Мозг по одной и очень осторожно. Как только будет введен фактор, создающий дилемму, инфантильная индивидуальность Мозга некоторое время будет колебаться. Его способность к обобщениям и оценкам еще несовершенна. Пока он осознает дилемму, как таковую, пройдет ощутимый промежуток времени. А за этот промежуток времени Мозг автоматически отвергнет данную единицу информации, прежде чем его связи успеют прийти в движение и выйти из строя.

Кадык Робертсона задрожал.

– А вы уверены в этом?

Доктор Кэлвин подавила раздражение.

– Я понимаю, что в популярном изложении это не очень убедительно, но приводить математические формулы было бы бессмысленно. Уверяю вас, что все именно так, как я говорила.

Управляющий не замедлил воспользоваться паузой и разразился потоком слов:

– Таково положение, шеф. Если мы согласимся, то дальше сделаем вот так: Мозг скажет нам, в какой части информации заложена дилемма, а мы тогда сможем определить, в чем она состоит. Верно, доктор Богерт? Ну, вот, шеф. А доктор Богерт ведь самый лучший математик на свете. Мы отвечаем “Консолидэйтед”, что задача неразрешима, отвечаем с полным основанием, и получаем сто тысяч. У них остается поломанная машина, у нас – целая. Через год, может быть через два, у нас будет двигатель, искривляющий пространство, или, как его иногда называют, гиператомный мотор. Но как его ни называй, а это же величайшая вещь!

Робертсон ухмыльнулся и протянул руку.

– Давайте контракт. Я его подпишу.

Когда Сьюзен Кэлвин вошла в строжайше охраняемое подземелье, где находился Мозг, один из дежурных техников только что задал ему вопрос: “Если полтора цыпленка за полтора дня снесут полтора яйца, то сколько яиц снесут девять цыплят за девять дней?”

Мозг только что ответил: “Пятьдесят четыре”. И техник только что сказал другому технику: “Видишь, дубина?”

Сьюзен Кэлвин кашлянула, и сразу же вокруг закипела суматошная, бесцельная деятельность. Сьюзен сделала нетерпеливый жест и осталась наедине с Мозгом.

Мозг представлял собой просто двухфутовый шар, заполненный гелиевой атмосферой строго определенного состава: пространство, совершенно изолированное от каких бы то ни было вибраций, колебаний и излучений. А внутри было заключено переплетение позитронных связей неслыханной сложности, которое и было Мозгом. Все остальное помещение было тесно уставлено приспособлениями, служившими посредниками между Мозгом и внешним миром – его голосом, его руками, его органами чувств.

Доктор Кэлвин тихо произнесла:

– Ну, как поживаешь, Мозг?

Мозг ответил тонким, радостным голосом:

– Очень хорошо, мисс Сьюзен. А я знаю – вы хотите меня о чем-то спросить. Вы всегда приходите с книжкой в руках, когда хотите меня о чем-нибудь спросить.

Доктор Кэлвин мягко улыбнулась.

– Ты угадал, но это немного погодя. Мы зададим тебе один вопрос. Он будет таким сложным, что мы будем задавать его в письменном виде. Но это немного позже. Я думаю, мне сначала нужно с тобой поговорить.

– Хорошо. Я люблю разговаривать.

– Так вот, Мозг, через некоторое время сюда придут с этим сложным вопросом доктор Лэннинг и доктор Богерт. Мы будем задавать его тебе понемногу и очень медленно, потому что мы хотим, чтобы ты был очень осторожен. Мы попросим тебя сделать на основе этой информации кое-какие выводы, если ты сумеешь, но я должна сейчас тебя предупредить, что решение может быть связано… гм… с опасностью для человека.

– Ух, ты! – тихо вырвалось у Мозга.

– Поэтому будь начеку. Когда ты получишь карточку, которая означает опасность для человека и, может быть, даже смерть, – не волнуйся. Видишь ли, Мозг, в данном случае для нас это не так уж важно – даже смерть; для нас это вовсе не так важно. Поэтому, когда ты дойдешь до этой карточки, просто остановись и выдай ее назад – вот и все. Понимаешь?

– Само собой. Только – смерть людей… Ох, ты!

– Ну, Мозг, вон идут доктор Лэннинг и доктор Богерт. Они расскажут тебе, в чем состоит задача, и мы начнем. А ты будь умницей…

Карточка за карточкой в Мозг постепенно вводилась информация. После каждой некоторое время слышались странные тихие звуки, похожие на довольное бормотание: Мозг принимался за работу. Потом наступала тишина, означавшая, что Мозг готов к введению следующей карточки. За несколько часов в Мозг было введено такое количество математической физики, что для ее изложения потребовалось бы примерно семнадцать пухлых томов.

Постепенно люди начали хмуриться. Лэннинг что-то сердито бормотал про себя. Богерт сначала задумчиво разглядывал свои ногти, потом начал их рассеянно грызть. Когда исчезла последняя карточка из толстой кипы, побелевшая Кэлвин произнесла:

– Что-то неладно.

Лэннинг с трудом выговорил:

– Не может быть. Он… погиб?

– Мозг? – Сьюзен Кэлвин дрожала. – Ты слышишь меня, Мозг?

– А? – раздался рассеянный ответ. – Я вам нужен?

– Решение…

– И только-то! Это я могу. Я построю вам весь корабль, это просто, только дайте мне роботов. Хороший корабль. На это понадобится месяца два.

– У тебя не было… никаких затруднений?

– Пришлось долго вычислять, – ответил Мозг.

Доктор Кэлвин попятилась. Краска так и не вернулась на ее впалые щеки. Она сделала остальным знак уйти.

У себя в кабинете она сказала:

– Не понимаю. Информация, которую мы ему дали, несомненно, содержит дилемму, возможно, даже гибель людей. Если что-то не так…

Богерт ответил спокойно:

– Машина говорит, и говорит разумно. Значит, для нее дилеммы нет.

Но психолог горячо возразила:

– Бывают дилеммы и дилеммы. Существуют разные пути бегства от действительности. Представьте себе, что Мозг поврежден лишь слегка, скажем, настолько, что ошибочно считает себя способным решить задачу, хотя на самом деле он не сможет этого сделать. Или представьте себе, что сейчас он, возможно, на грани чего-то действительно ужасного, так что его погубит малейший толчок.

– А представьте себе, – сказал Лэннинг, – что дилеммы не существует. Представьте, что машину “Консолидэйтед” вывела из строя другая задача или что это чисто механическая поломка.