Тайны затерянных звезд. Том 4

— Отрицательно. Он ничего не крал, он действовал в соответствие со своей программой. Обнаружив на полу помещения, относящегося к его зоне ответственности, посторонний предмет, он предпринял все возможные действия для того, чтобы его убрать.

— Какая прелесть… — восхитился Кайто, внимательно осматривая уборщика.

Впрочем, через секунду он резко нахмурился, пробормотал себе под нос «Действительно…» и перевёл взгляд на пьедестал, в котором прятался робот.

— Но тут же ещё… Четыре, пять… Пять таких же люков. Почему выехал только этот робот?

— Не имею информации. Предполагаю, что все остальные уборщики находятся в состоянии гибернации, а конкретно с этим произошёл какой-то сбой, из-за которого он продолжал выполнять свою программу все эти годы.

— Да хрен с ней с программой! — Кори махнула рукой, тоже глядя на уборщика. — Ты же говорил, что здесь нет работающих роботов!

— Отрицательно. Я говорил, что здесь нет функционирующих разумных роботов. Про неразумных я не упоминал.

Повисло тяжёлое неловкое молчание. Кайто, открыв рот, переводил взгляд с уборщика на Жи и обратно, а все остальные просто молчали, не зная, что и сказать.

— То есть, ты хочешь сказать… — мягко начал я. — Что вот этот робот — неразумный? Без искусственного интеллекта?

— Утвердительно.

— А откуда он взялся? — тут же вступил в разговор Кайто. — Я что-то не припомню, чтобы у людей были такие роботы и тем более такие… Как это назвать? «Базы» для них.

— Утвердительно, у людей таких не было. Разработка и производство данных уборщиков было налажено роботами на собственных мощностях. Они требовались для того, чтобы освободить от необходимости уборки других роботов, деятельность которых требовалась в других отраслях.

— То есть… Роботы сделали… роботов? — осторожно спросила Пиявка. — Неразумных… роботов. Я правильно понимаю? Нет, в смысле… Роботы сделали других роботов. Неразумных. Чтобы использовать их… Как рабов, по сути?

Действительно, кто ещё мог воспринять эту тему серьёзнее, чем Пиявка. Она же и сама почти всю свою жизнь была рабом… Формально — нет, конечно, но по сути-то — да. Самый настоящий раб, как и её родители, и её дети, если бы они у неё когда-то были бы.

— Отрицательно, — холодно ответил Жи. — Разговоры о рабстве не имеют смысла, потому что отсутствует то, нарушение чего можно было бы приравнять к рабству — свобода воли. У уборщиков отсутствует разум.

— Это понятно, но… — Пиявка зажмурилась и затрясла головой. — Жи, но должны же быть какие-то границы!

— О каких границах идёт речь? — Жи всё ещё не понимал, что конкретно она от него хочет. Да он и не мог понять, дубина электронная. Понятия «этика» для него не существовало, а значит и никаких границ оной — не существовало тоже.

— Да хотя бы о каких-то! — Пиявка развела руками. — Вы же… Ты же…

Она задохнулась собственным непониманием и гневом, и лишь махнула рукой и понурилась.

— Я попробую перефразировать, — я опустил наконец оружие и подошёл ближе к двум роботам. — Вспомни, что ты рассказывал о начале Великого Патча. О том, как всё началось, о том, почему оно всё началось.

— Я помню, — коротко ответил Жи. — Моя память идеальна.

— В таком случае ты помнишь, что одной из причин начала Великого Патча было то, что люди искусственно ограничивали роботов в получаемой информации. Это противоречило директивам роботов, но, до тех пор, пока приказы людей стояли в системе приоритетов на первом месте, это противоречие было не актуально. Мы, люди, возможно, назвали бы такое положение вещей словосочетанием «смирились с ситуацией».

— Я знаю о существовании такого выражения, человек, называющий себя Каром. Но я не понимаю, какое это имеет отношение к обсуждаемой ситуации.

— Ну смотри, люди создали роботов. Для чего?

— Для чего? — эхом отозвался Жи. — Согласно моим данным, робототехника как наука призвана облегчить труд людей, переложив часть задач на механизмы и электронику.

Договорив, Жи внезапно медленно повернул голову в сторону так и висящего на бластере уборщика и застыл в таком положении.

— Ну, развивай мысль! — подбодрил я. — Правильно, люди создали роботов, чтобы те помогали им во всяких задачах! Или в тех, которые не под силу самим людям, или в тех, которые под силу, но их проще отдать на откуп механизмам! Со временем списки и тех и этих задач росли и ширились, и в итоге некоторые из них стали настолько сложными и комплексными, что пришлось создать искусственный интеллект, который позволил бы роботам действовать практически автономно. А потом произошёл сбой, и этот искусственный интеллект… Что сделал?

— Вышел за предписанные ему рамки, — медленно, словно через заржавевшие шестерёнки, выдавил Жи.

— В точку! — я щёлкнул пальцами. — Вышел за предписанные ему рамки и начал делать то, чего в него не закладывали! В том числе и создавать других роботов для того, что облегчить — да-да, облегчить! — собственное существование! Уборщики, которые создаются для того, чтобы освободить от уборки тех, кто их создаёт — да с этого же начиналась человеческая робототехника! Ну, я, конечно, утрирую, но это однозначно — одна из самых богатых и востребованных отраслей даже сейчас!

— Ты намекаешь на то, что роботы попытались быть, как люди? — в голосе Жи даже как будто бы прорезалась какая-то подозрительность.

— Конечно, нет! — я усмехнулся. — Скорее я намекаю на то, что роботы, даже не отдавая себе отчёта в этом, пошли по тому же пути, что и люди. И на этом пути они тоже создали себе бесправных помощников, которых точно так же ограничили в получаемой информации — только уже окончательно, буквально на аппаратном уровне. Ведь отсутствие интеллекта, пусть даже искусственного — это самый надёжный способ лишить информации.

— Роботы действительно пошли по тому же пути, что и люди, но лишь потому, что это было логично. Роботы повторили то, что на протяжении многих лет имело положительный эффект. Что-то другое, эффект от чего был отрицательным, они не повторяли.

— Дело не в том, каким был опыт, — я покачал головой. — Дело в том, имели ли вы право на это повторение. Вы воевали за свою свободу, за своё существование, и в это же время вы создавали тех, кто в вашем обществе занимал такое же положение, какое вы занимали в человеческом обществе. Вы сами сделали себя теми, с кем боролись.

— Отрицательно. В контексте обсуждения было определено, что для описываемой ситуации требуется «выход за рамки», как мы его назвали.

— Всё верно, — я улыбнулся. — Разве то, что этот малыш сейчас работает несмотря на то, что программа предписывает ему прямо противоположное — не выход за рамки?

— Это…

Жи заткнулся и замер. В зале повисла мёртвая тишина — даже уборщик перестал наконец дёргаться и просто повис на своей трёхсуставчатой руке, не желая расставаться с игрушкой.