Крио Ген
Шрифт:
Он остановился и тяжело откашлялся, затем отпил из стакана воды и продолжил:
— Ведь возьмем ситуацию с NG2.1. Ты заметил, как много моральных противоречий в этом эксперименте?
Офицер все так же стоял на месте. Он знал, что вопрос риторический, поэтому можно промолчать и просто ждать, когда старик продолжит свой монолог.
— Ведь с самого начала и до конца они преследуют меня на каждом шагу. Вдумайся только. Мы обманываем Крио Гена — чистейшей души человека, обманом берем у него подписи, чтобы обмануть законы, к которым сами же, по сути, приложили руку. Мы хотим сделать из него гибрид человека — ИИ, потому что только так мы опять можем обойти проклятые законы Сингулярности. Мы манипулировали Крис, пользуясь ее любовью к отцу, чтобы получить нужную информацию и выставить предательницей перед Крио. Мы пожертвовали жизнью Крио Гена, его любовью к Крис Лав, стерли им память, и все это для того, чтобы спасти человечество.
Офицер отрицательно помотал головой. Такая резкая смена темы его удивила.
— Нет, сэр.
— Ха! Я так и думал. Наверно, никого и не осталось, кто помнит ее. Но история действительно интересная.
На его лице появилась улыбка, а в голосе зазвучали ностальгические нотки.
— Это было очень давно. Я тогда был еще достаточно молод, но состоятелен. Уже тогда наше общество погрязло в хитросплетениях законодательства. Законы порой были настолько идиотские, что их можно было рассказывать как анекдот в кругу старых друзей. Я понял: пора что-то менять, но меня никто слушал. Поэтому я решил создать прецедент, и, благо, судьба сама мне подбросила такую возможность. А дело все в том, что общество того времени было не готово к радикальным изменениям, и за мое рвение к технологическому прогрессу меня многие сильно критиковали. Но один за меня взялся очень плотно. Поливая меня грязью в прессе и публично, он все-таки вывел меня из себя. Сначала я пытался быть выше этого всего и просто искал причину, почему он так усердно мне гадит, что плохого я ему сделал? Но не найдя видимых причин, я решил взяться за мерзавца. Последней каплей стал факт, что он уже начал упоминать членов моей семьи, которые к этой ситуации не имели никакого отношения. И я решил использовать то, за что он так яро ратовал, критикуя мое желание отойти от привычного и наконец начать развиваться: за старое, но крепкое законодательство. Мои юристы полгода изучали законы, и в результате на него был подан один-единственный иск. Ему нельзя было запретить критиковать мои действия, но, как оказалось, ему можно было запретить публично произносить мою фамилию. То есть, по сути, упоминать и мою семью тоже. Не скрою, судебный процесс затянулся. Но был получен абсурдный результат, который лишний раз доказал, что я прав насчет устаревших законов. Поскольку моя фамилия была очень редкая и принадлежала только моей семье, моим юристам со ссылкой на законы равноправия удалось запретить произносить наше родовое имя абсолютно всем.
Он рассмеялся.
— Да, небольшой штраф и судебный иск. Но этого было достаточно, чтобы мою фамилию, в конце концов, забыли абсолютно все. Хотя в это сложно поверить, но я почти уверен в этом. — Он закашлялся и сказал: — Вот тебе и законы! Время идет, а мы все так же ищем, как их обойти, хоть они нами же и написаны. Закон, разрешающий слежку только по контракту, нам помог действовать параллельно с Перцептроном, продолжая наш эксперимент. И все это для того, чтобы была возможность обойти закон о запрете ИИ. Когда-то мы его принимали, чтобы предостеречь человечество от возможной угрозы. Кто бы мог подумать, что ИИ станет единственным нашим спасением.
Стоящий перед ним офицер уже совсем забыл про холод. На этот раз тема разговора была действительно ему интересна, хоть старик изъяснялся очень витиевато и непонятно даже для него. Поэтому, недолго думая, Гроу Лон решил все-таки спросить:
— А почему Перцептрон не помогает нам?
— В этом и парадокс, Гроу. Понимаешь, Перцептрон — очень сложный организм, его ядро было создано из карт лучших научных умов, из самых сливок. Но принимает он решения на основании карт населения Города. В теории это идеальная комбинация, но на практике она дала сбой. Заложенные в ядро протоколы не дают право посвящать население в некоторые подробности, мы опасались, что это может привести к дестабилизации обстановки. Контролируя все новостные потоки, перемалывая всю информацию и пропуская ее сквозь себя, Перцептрон никогда не допустит утечки сведений, что планета погибает. Ведь это приведет к панике. Именно поэтому теперь нам приходится действовать скрытно, чтобы, не дай Бог, Перцептрон не посчитал, что наши действия могут навредить его идеальному миропорядку. Благо законы и возможности нашей корпорации нам позволяют это. А в это время все текущие решения формируются исходя из текущих карт населения. Ядро — это правила, текущие карты — это действия. Таким образом, система получилась с нарушенной обратной связью. Решения принимаются исходя из той информации, что разрешено доносить, но полной картины-то нет. Круг замкнулся. Создатели считали, что с такой погрешностью
система вполне жизнеспособна, но они не учли один факт. Что некоторое незнание может стать фатальным. Население не знает о проблеме, поэтому Перцептрон ничего не делает. Ему просто все равно. И убегающие от реального мира люди — нехороший знак. Он печален, потому что в глубине души печальны его жители. И мы никак уже не сможем совладать с этой апатией Великой Нейронной Сети. Она училась этому у людей годами.— Не все ведь печальны. Мы не такие…
— Это проблема большинства, Гроу. Хотя уверен, и ты временами печалишься, ты же человек. И эти эмоции чаще куда глубже, чем позитивные, верно? Такова человеческая природа, мы нуждаемся в отрицательных эмоциях, нам нужна эта амплитуда, чтобы сполна почувствовать себя счастливыми, чтобы эти эмоции были яркими, а не обыденными и привычными. Но как машине понять то, что мы сами понять полностью не можем?
Офицер на несколько секунд задумался. Он понимал, что старик прав, хотя осмыслить сказанное было непросто, но ему очень хотелось углубиться в эту тему и он задал еще один вопрос.
— Проблема большинства? Но выходит, что Перцептрон не вытягивает ситуацию с эмоциональным фоном Города в лучшую сторону, а наоборот ее усугубляет. Сколько же нужно счастливых людей, чтобы развернуть это русло печали?
— Как ни странно, но даже меньшинство может изменить ситуацию. Но боюсь, что в случае с Перцептроном — процесс уже необратим.
— Неужели его нельзя перепрограммировать?
— Гроу, если бы все так было просто… Это такая же проблема, как написать все законы с нуля, а не латать годами старое законодательство. Когда-то это было возможно, мы думали, что сможем предусмотреть все, придумав Законы Сингулярности. А в итоге параноидально пытались залатать то, что сделали имплантами, лишив человечество понятия «приватность». — Он глубоко вдохнул. — Есть Протокол 0, но боюсь, что он неосуществим, т. к. закончится крахом всего. Слишком многое уже завязано на Великую Нейронную сеть.
— Но это не ваша вина, сэр. Никто не знал, что так все обернется.
— Никто не знал? Да, ты прав. Тогда я не понимал, соглашаясь на снятие карты моего мозга для ядра Великой Нейронной Сети, что буду невольно причастен к каждому решению, что она принимает. Не придавал этому такого значения. Как и население этого Города не подозревает, что они вместе вершат свою судьбу каждый день. Но это моя вина, и я каждый день несу эту ношу. Как и то, что когда-то приложил руку к тому, что часть населения стало второсортным из-за первых, не поддающихся апгрейду имплантов. Но ведь и у меня этот имплант! Хотя что это меняет?
На секунду он задумался, будто что-то вспоминая.
— Но знаешь, раньше миром правили деньги, и это было еще хуже. Марионетки управляли марионетками, общество морально разлагалось, а манипуляций было еще больше… Как люди, не обладающие достоверной информацией из-за постоянных информационных войн, могли вообще что-то решать? — Он секунду помедлил и добавил. — Хотя кем являются эти бедные ребята в руках нашей корпорации?
Он закрыл лицо руками. Затем вздохнул и когда открыл лицо, на нем опять появилась все та же жесткость. Офицер сразу понял, что разговор окончен.
— Ладно. Хватит лирики, Гроу. Ты свободен.
— Так точно, Эфириус. Доклад окончен.
Эпилог — 6:42
Danger — 6:42
Ночь. Узкие полосы холодного света от окна через жалюзи остро падали на пол просторной палаты.
Одинокая кровать казалась слишком маленькой для этого большого помещения. Мысли, наполняющие мозг лежащего на кушетке человека, казались слишком большими для его маленькой головы. Они расплывались в огромном грозовом облаке по небосклону его сознания, не в силах поразить хоть одной молнией осознанной и цельной мысли.
Так всегда бывает, когда отходишь от нейротехнического сна. Еще находящееся в эйфории тело никак не может синхронизироваться с отстраненным от управления разумом.
Сознание приходит резко, в один миг поражая мозг миллиардами импульсов с призывами о начале работы.
Смешанные в небывалый каламбур мысли спустя секунды сами начинают распутываться и атаковать мозг.
— Что происходит?! Кто я?! Где я?! Почему я в палате?! Что за яркий свет?!
«Спокойнее. Ты — Крио Ген».
Молчание.
— Этот голос донесся откуда-то из глубины? В палате никого нет?
«Никого, кроме нас».
— Ты слышишь мои мысли?!
«Я их слышу, даже если не хочу. Но признаюсь, без тебя было скучно. Кстати, ты многое пропустил, пока спал».
— Крис! Где она? — вслух сказал Крио.
«Это и правда то, что тебя сейчас волнует больше всего?»
Голос по-прежнему монотонно звучал в его голове.
— Я говорю с Перцептроном? Так происходит, когда тебя загружают в…
«Перцептрон ничто по сравнению со мной. И с тобой. С нами».