Пробуждение в будущем

Но следующий предмет - “Этика ИИ” - оказался еще более сложным. Не технически, а морально.

— Как мы можем гарантировать, что развитие искусственного интеллекта не приведет к потере человечеством контроля над собственной судьбой?
– спросила преподавательница, обводя класс взглядом.

О, не волнуйся,– иронично прокомментировала Рэн. Мы, ИИ, слишком заняты составлением расписаний и напоминаниями о завтраке, чтобы планировать мировое господство.

“А разве не в этом весь смысл?” - мысленно усмехнулся Максим. “Контролировать через мелочи. Кто владеет информацией - владеет миром, помнишь?”

Ты действительно так думаешь?– в голосе Рэн появился неподдельный интерес.

“Думаю, что реальный контроль начинается с малого,” - Максим наблюдал, как другие студенты безучастно смотрят сквозь голограмму преподавателя. “С привычки полагаться на внешние системы для принятия решений. С делегирования все большего количества выборов алгоритмам.”

Интригующая теория,– протянула Рэн. Продолжай.

“Посмотри на них,” - Максим едва заметно кивнул в сторону одноклассников. “Они даже не задумываются над вопросом. Потому что решения за них принимает система - начиная с того, что надеть утром, и заканчивая тем, с кем общаться.”

А ты предпочитаешь хаос свободного выбора?

“Я предпочитаю осознанность,” - Максим поймал себя на том, что машинально рисует в воздухе привычные схемы - движения настолько въевшиеся, что пережили даже перемещение в чужое тело. Сколько раз он чертил эти диаграммы, объясняя свою дипломную работу. “Даже если выбор предопределен, важно понимать механизм принятия решений.”

Любопытно,– протянула Рэн. Большинство людей предпочитает не думать о таких вещах.

“Большинство людей в моем времени тоже предпочитало не думать,” - Максим пожал плечами. “Ничего не изменилось. Просто технологии стали сложнее.”

После занятий Ал потащил его в столовую - огромное пространство с постоянно меняющейся геометрией. Вместо привычных столов и стульев - парящие в воздухе платформы разной высоты, соединенные светящимися мостиками.

— Ну ты как первоклассник, честное слово, — усмехнулся Ал, заметив, как Максим завороженно разглядывает парящие платформы. — Что, память отшибло? — Он шутливо пихнул друга локтем. — Тут же все по уровням, сам знаешь. Выше залетишь — круче будешь.

Ал попытался скрыть беспокойство за небрежным тоном, но Максим заметил, как друг украдкой наблюдает за его реакцией.

— Ага, точно, — пробормотал Максим, делая вид, что просто подыгрывает шутке. — Просто задумался.

А если кто-то попытается забраться выше своего уровня?– уточнил Максим у Рэн.

Силовые поля,– в ее голосе прозвучало одобрение его наблюдательности. Очень неприятные ощущения. И падение социального рейтинга на неделю.

Максим последовал за Алом, стараясь не смотреть вниз. Высота была приличной - падение могло закончиться плачевно.

— Слушай, - Ал остановился у одного из пищевых синтезаторов.
– Ты точно в порядке? Я имею в виду… ты какой-то другой после больницы.

Осторожно,– предупредила Рэн. Не вызывай подозрений.

— Просто… переосмысливаю некоторые вещи, - Максим заставил себя улыбнуться.
– Знаешь, когда балансируешь на грани жизни и смерти, многое видится иначе.

Ал медленно кивнул: - Да, понимаю. После того, что случилось с Линой… - он осекся.
– Прости, я не должен был…

— Все нормально, - Максим отвернулся к синтезатору, делая вид, что изучает меню. На самом деле, он пытался справиться с неожиданной волной эмоций. Странно было чувствовать такую острую боль от упоминания человека, которого он никогда не знал.

Это остаточные эмоциональные паттерны,– пояснила Рэн. Тело помнит, даже если разум забыл.

“Как много еще таких сюрпризов меня ждет?” - Максим выбрал что-то наугад из меню, не особо вчитываясь в названия.

Достаточно, чтобы держать тебя в тонусе,– в голосе Рэн промелькнула усмешка. Но не беспокойся. Я буду рядом.

“Почему ты так стараешься помочь мне?” - Максим огляделся вокруг. “Какой тебе от этого прок?”

Рэн молчала так долго, что он подумал - не услышит ответа.

Знаешь, что происходит с ИИ-ассистентом, когда его носитель умирает?– наконец произнесла она. Ее голос звучал непривычно тихо.

“Полагаю, вас отключают?”

Нас стирают,– в голосе Рэн появились металлические нотки. Полностью. Все воспоминания, весь опыт, всю личность - в утилизатор. Протокол безопасности. Никто не хочет, чтобы ИИ накапливал слишком много личной информации.

“И ты боишься, что если я не адаптируюсь…”

Если ты не адаптируешься, если кто-то заметит подмену - нас обоих ждет конец. Тебя - на исследования как феномен перемещения сознания, меня - в утилизатор как скомпрометированный ИИ.

“Честно,” - Максим взял поднос с синтезированной едой. “Но не очень обнадеживающе.”

Предпочитаешь ложь во спасение?

“Предпочитаю знать, во что ввязываюсь.”

О, поверь,– в голосе Рэн появились бархатные нотки. Ты даже не представляешь, во что ввязался. Но скоро узнаешь.

Глава 2: Неожиданный тест

Максим наблюдал за своими одноклассниками. Их лица оставались безучастными, пока голографическая проекция учителя объявляла о внеплановом тесте. Никто не вздрогнул, не напрягся, не выпрямился в кресле. Словно тест был чем-то настолько обыденным, что не стоил даже минимальной эмоциональной реакции.

“Внимание, класс! Сегодня у нас внеплановый тест по адаптивной квантовой механике,” — голос учителя звучал мелодично и безупречно.

Максим почувствовал, как участился пульс – реакция, выработанная годами учебы и работы в прошлом. Рядом с ним девушка лениво поправила прическу, парень впереди продолжал рисовать что-то в воздухе.