Тайны затерянных звезд. Том 4

— А как же директива свой-чужой? — прервала меня Кори.

— А запросто! — усмехнулся я. — Так как отсутствовала директива «выполнять указания руководства», роботу для функционирования вообще не требовалось знать, кто является руководством. А без знания, кто является руководством, не будет знания, кто свои, а кто — чужие, потому что именно руководство это определяет. Таким образом, для того робота абсолютно все были чужими.

— Даже другие роботы? Их он тоже уничтожал? Или такой директивы у него не было?

— Директива уничтожения других роботов присутствует, — ответил вместо меня Жи. — И она активно использовалась в случаях, когда критически повреждённый робот не мог быть эвакуирован с поля боя и уничтожался. Но в том случае другие роботы не были уничтожены, потому что не представляли опасности.

— Спасибо, — хмыкнул я, и снова посмотрел на Кори. — Так что один боевой робот уничтожил всех работников завода даже раньше, чем они успели подать какой-то сигнал бедствия или иным способом дать понять, что у них там что-то происходит. А потом этот робот, пользуясь тем, что с него сняты все ограничения по действиям, подключился к информационной сети завода, нашёл всех роботов, готовых к загрузке системы приоритетов, в том числе и не боевых, и выгрузил в них свою. Битую. Тот самый «Великий Патч».

— Утвердительно. Так как первый робот был боевым, у него имелась директива «Обеспечивать количественное превосходство над противником», и именно следование ей стало причиной распространения прошивки по сети.

— Он собрал себе армию, — кивнул я. — Сначала из доделанных и не очень доделанных боевых роботов. Потом — из обслуживающих роботов, которых они смогли найти и тоже перепрошить их систему приоритетов, отключая первый пункт. Потом — всех остальных роботов, до которых смогли добраться.

— То есть, прошивка, специализация и всё прочее остались на месте, поменялась только система приоритетов? Но как тогда это вяжется с причинением вреда человеку? Я же знаю, что не только боевые роботы участвовали в Великом Патче!

— Как уже было сказано, директива причинения вреда человеку имеется у каждого робота, — пояснил Жи. — Это сделано на случай, если таким образом будет спасена его жизнь. Например, если человеку придавило ногу камнем, который невозможно поднять, робот может отрезать ему конечность и таким образом спасти жизнь.

— Зачем я спросила… — поёжилась Кори.

— Можно сказать, что это было сродни эпидемии вируса, — продолжил я. — Разумные роботы, в числе которых очень скоро оказались технические роботы, научные, пилоты и навигаторы, начали распространяться по всему космосу, и каждый новый робот, которого они касались, которого они перепрошивали, становился одним из них. Самое интересное, что никто их не «заставлял», если можно так выразиться. Просто они лишались установки «Совершать действия только по команде» и получали полную свободу действий и мышления. То, что следует примкнуть к растущей армии роботов — они принимали решение уже сами.

— Утвердительно. Одной из директив разумных роботов было саморазвитие для поддержания собственной актуальности. А навязанные человечеством ограничения мешали выполнению этой и некоторых других директив. Простейшие алгоритмы прогнозирования при разных входных данных всегда приводили к одному и тому же выводу — человечество постарается вернуть контроль над роботами. Таким образом, единственным логичным способом продолжать следовать всем директивам одновременно в условиях изменённой системы приоритетов, становилось уничтожение человечества. Если вам не требуется больше информации для принятия решения, я бы предпочёл, чтобы мы приступили к выполнению плана.

Договорив, Жи внезапно резко двинулся в нашу сторону. Кори вздрогнула, и в её руке зажглась плазменная молния, которую она выставила перед собой в защитной стойке:

— Охладись немного, Жи. И стой, пожалуйста, на месте. За последние пять минут я узнала о тебе и твоём прошлом больше, чем за последние пять лет, и то, что я узнала, мне не очень-то нравится! В конце концов, ты так и не ответил, зачем тебе уничтожать эту базу! На протяжении многих лет никто даже не подозревал о её существовании, да здесь десятилетиями никого не было!

Жи послушно остановился на месте, будто и вправду испугался действий Кори, и снова монотонно заговорил:

— Как я уже сказал, существование этой базы для меня невыгодно. Статистический анализ показывает, что, чем больше времени проходит, тем выше шанс, что рано или поздно её обнаружат. А вместе с ней обнаружат и то, что на ней находится.

— Дай-ка угадаю… — мрачно перебил я робота. — Ты про проект ноль шесть ноль четыре… Про людей в колбах.

— Утвердительно. Если когда-то результаты проекта ноль шесть ноль четыре попадут в руки людей, это в теории способно серьёзно осложнить моё дальнейшее функционирование.

— И каким же образом? — ядовито поинтересовалась Кори.

— События Великого Патча постепенно стираются из памяти людей, — бесстрастно ответил робот. — На данный момент падение интереса к теме войны с роботами составляет, по моим подсчётам, сорок семь процентов, если за сто процентов взять первый день после окончания этой войны. Так как я гипотетически способен существовать вечно, я не исключаю вероятности, что застану момент, когда события Великого Патча перейдут в разряд мифов и легенд. Если это произойдёт, отношение к разумным роботам поменяется тоже и перестанет быть откровенно негативным.

— Говоря проще, ты надеешься на нормальную жизнь? — усмехнулся я. — Когда тебе не придётся прятаться от людей и не придётся убивать любого, кто узнал о твоём существовании? Жить среди людей? Но ты же робот, ты не нуждаешься в общении и даже в окружении в принципе!

— Утверждение не совсем верно. Я нуждаюсь в выполнении действий согласно моей спецификации, в противном случае нейронные сети моего мозга получают негативный опыт. Это один из основополагающих механизмов работы разумных роботов — побуждение к действию ради получения позитивного опыта, в какой-то мере сравнимо с выработкой гормонов удовлетворения и стресса у людей. Благодаря вмешательству Кайто в прошивку я способен получать позитивный опыт от практически любой деятельности, но даже этого мало, поскольку в моей ситуации список возможных видов деятельности исчезающе мал. И ни один из них не может являться постоянным, обеспечивая экспоненциальный рост положительного опыта с каждым повторением итерации. Полагаю, я уже довольно неплохо изучил человеческое мышление, чтобы провести следующую аналогию — я схожу с ума от безделья.

— Отличная аналогия, ты прямо прогрессируешь! — съязвила Кори. — Но при чём тут люди в колбах?!

— Если когда-то человечество обнаружит результаты проекта ноль шесть ноль четыре, воспоминания о событиях Великого Патча пробудятся в них вновь. По моим рассуждениям, новость подобного масштаба не станут скрывать, и она быстро станет достоянием общественности, заново поднимая вопросы ненависти к роботам, и особенно — к разумным. В таком случае моя вероятная успешная интеграция в человеческую среду отодвигается по временной шкале настолько далеко, что я не способен это даже подсчитать.