Протокол безопасности

Руд смотрел на происходящее с настороженностью, Тера – с восторгом, как на чудо. Все, казалось, даже дышать боялись, будто вздох может нарушить процесс.

Мучительно долго тянулись секунды. Фламма не шевелился совершенно.

Когда взгляд Теры из восхищенного стал взволнованным, когда Корби не на шутку испугался, – только тогда хакер вдруг поднял голову и неуклюже двинул нормальной рукой. Не с первой попытки скоординировал движения и протер глаза.

Вернее, окуляры. Совершенно чистые окуляры – и пальцы, наоборот, лишь оставили на них следы. Человеческий жест, очень человеческий. Привычный для любого, вообще имеющего руки и глаза. Хакер мог о нем вспомнить – или забыть об имплантах, – только от большого потрясения.

– Эта... Это... Он пытался меня взломать, – с удивлением пробормотал Фламма. – Он думал, я – это компьютер, к которому его подключили.

– Это ведь не слишком далеко от истины, верно? – осторожно спросила Тера, дернув рукой так, будто собиралась дотронуться до него, но быстро передумала.

– Верно, – согласился хакер. – Но он еще и понял, что я человек.

– И?..

– Сказал «Извините».

Фламма медленно, глубоко вздохнул – очень громко в тишине Крипториума. И, по-прежнему удивленный, потянулся к панелям свободными парами рук.

– Мне нужно время на восстановление системы. На вирус-убийцу или заложенный алгоритм уничтожения это пока не похоже.

На что это похоже, Фламма, впрочем, не смог сказать и спустя сорок минут.

– Не понимаю, – признался он, облизнув пересохшие губы. – Ничего... ничего.

Он откинулся на спинку кресла и в задумчивости потер подбородок. Корби, разглядывая землянина, подумал, что на его лицо просто просятся нахмуренные брови. «Жаль, что их нет. Без них лицо какое-то... неполное».

– Доктор.

– А?

– Может, вы что-то скрыли от меня? Никакой фрагмент кода не был вырезан?

– А причем тут я? – поразился Корби. – Главный по технике у нас Ив.

По окулярам невозможно было понять, с каким чувством глядит на него взломщик. «Снова ощутимая нехватка бровей», – мысленно вздохнул доктор.

– А... А, вы тоже под воздействием стереотипов? – догадался Корби. – Я харттикер, но это вовсе не значит «ученый», да и ученые бывают разные... И я всего лишь врач.

Взломщик хмыкнул.

– И у тебя кожа заблестела заметнее обычного, – заметил Руд.

Проклятая биология. Проклятые стрессы. Проклятая наблюдательность.

– Это не имеет значения! – фыркнула Тера, отвлекая внимание. – Ответ на твой вопрос – нет, мы ничего не вырезали и не добавляли. Искусственный интеллект как он есть. Неужели без... аномалий?

– Нет вирусов, нет обхода блокировки ограничений, просто... – хакер развел руками. – Я не знаю, считать ли аномалией первозданную форму любого ИИ?

– Стоп! – возмутилась Тера. – Ограничения на месте, я проверяла, вот же...

Она сползла со стола и совершенно бесцеремонным образом уселась на подлокотник кресла, наполовину загородив хакеру обзор.

– Вот! Все здесь, вот... контейнер «А» – запрет на убийство...

– Я не говорил, что их удалили, – вздохнул взломщик. – Перегрузка повредила, большей частью, последние отметки, память, если угодно... Смотри ниже, последние команды.

Тера прокрутила код до самого низа, до подсвеченных зеленым восстановленных строк.

– Просто так? – поразилась она, осмыслив увиденное. – Просто... сняли?

– Что там? – нетерпеливо окликнул ее Руд. – Объясните, что не так.

– Кто-то просто снял ограничение. И... – Тера сощурилась, потом нахмурилась и непонимающе оглянулась на Фламму, чуть не свалившись с подлокотника.

– ...И это ограничение не было запретом на убийство. Этот ИИ мирный, как туристический лайнер в дрейфе.

– Но-о? – протянул Корби.

– Но может саморазвиваться. Снято ограничение на самообучение. И все.

Ограничение на развитие ИИ было самым спорным среди свода запретов. До определенной поры машина могла учиться и познавать мир – это заметно облегчало интегрирование ИИ в системы кораблей или исследовательских баз. Запрет начинал действовать после рубежа, установленного восмурами. Как только ИИ начинал интересоваться психологией на уровне философских вопросов, срабатывал сигнал, и обучение прекращалось.

Некоторые выступали против этого запрета, но в обществе все равно царила идея о том, что чрезмерное углубление ИИ в размышления приведет к бунту машин.

– Проводились эксперименты, – вспомнил Корби об этих самых «некоторых» противниках. – Когда восмуры пытались добиться снятия этого запрета. Я читал... Да и вы наверняка тоже, это самый популярный аргумент сторонников развития искусственных интеллектов.

В рамках проекта по сбору подписей в петицию о защите синтетической жизни восмуры на время показательно отключили запрет на самообучение. За год – срок порядочный для разума, перерабатывающего информацию с немыслимыми скоростями, – ни один из подопытных ИИ не проявил признаков агрессии. Но проект все равно провалился... по его завершению некоторые специалисты-восмуры не могли сдержать слез. По их словам, вновь подключенные запреты калечили живых существ.

– Мне кажется... – Корби нервно хихикнул. – Или мы только что подтвердили несостоятельность всего того радикального течения?

Пара глаз и пара окуляров уставилась на него. Тера выглядела разозленной, Фламма – тоже.

– Простите. Понятия не имел, что вы тоже...

Самого Корби ИИ никогда особенно не волновали – он с ними почти не контактировал.

– Все объяснимо, – спокойно произнес Руд, привлекая к себе внимание. Ящер не шевелился и смотрел на собственные руки. Медленно поднял голову, взглянул прямо на Теру. – Я знаю восмуров. И знаю людей. Тот проект... восмуров не назвать агрессивными или потенциально опасными. А Бондаренко и Хенрикс работали в исследовательской лаборатории, и этот интеллект их знал... По крайней мере, доктора Бондаренко. Что я могу сказать...

– У землян есть поговорка, – прервал Корби попытки раптора донести свою мысль. – Старая. «С кем поведешься – от того и наберешься». Актуальна как никогда.

– ИИ не могли научиться у восмуров ненависти. Не могли допустить возможность убийства кого-либо... А у людей – вполне.

– У рапторов – тоже! – выпалила Тера.

– У рапторов – тоже, – согласился Руд. – Тем более что исследовательский проект на Энцеладе финансировался моим народом... Но тогда у этого ИИ должна была быть серьезная причина для нападения. Вероятно, доктор Бондаренко и Хенрикс сделали что-то... недопустимое.