Чтение онлайн

ЖАНРЫ

Холодное пламя Эригона
Шрифт:

— Уверяю тебя, Александр, люди до сих пор так и не создали искусственный интеллект в его чистом виде, — произнес Кирсанов, устало помассировав веки. Глаза быстро утомлялись, не смотря на постоянно работающие светофильтры. Массы прозрачного льда искрились, брызгали светом, — к подобному эффекту невозможно адаптироваться за несколько дней. Нужно либо родиться тут, либо провести очень много времени в обстановке ледовых пещер.

— Как же так, Иван Андреевич? — Искренне удивился его словам мнемоник. — А как же печально знаменитые модули «Одиночка», системы «Хьюго», компьютерная сеть планеты Деметра? Разве они не искусственные интеллекты?

— Интересный вопрос. И вот, что я тебе отвечу, Александр: очень осторожно относись к понятию «искусственный интеллект». Все перечисленные тобой системы изначально конструировались как исполнительные, и смогли осознать факт собственного бытия, лишь находясь в прямом нейросенсорном контакте с человеком. Зачастую мы выдаем

желаемое за действительное, принимаем продвинутую машину с опцией саморазвития за искусственный разум. Но это не так. Машина, сколько информации в нее не закачай, все равно останется машиной. Она не будет осознавать, что существует. Подумай и ответь — какова должна быть истинная цель создания искусственного интеллекта? Для чего он нужен?

Александр задумался.

Действительно для чего?

— Чтобы думать за человека? — Наконец вопросительно произнес он.

— Вот именно. Но, создав машину, способную думать за нас, мы обрекаем самих себя на деградацию и гибель. Это очевидно. Поэтому в практическом плане искусственный интеллект человеку не нужен. Мы тем и отличаемся от остальных, созданных природой, существ, что умеем мыслить абстрактно. Люди стали конструировать машины, чтобы они помогали нам избавиться от многих рутинных, не творческих процессов, а не затем, чтобы они подменили нас самих. Возьмем простой пример. Многие кибернетические системы умеют рисовать. Допустим ты, Александр — известный художник, а человечеством действительно разработан настоящий искусственный интеллект. Ты приобретаешь «ИскИна», обучаешь его своей манере письма, и искусственный интеллект начинает писать картины. Будут ли они продолжением твоего творчества?

— Думаю — нет. Это бессмысленно.

— Вот именно. И вообще, искусственный интеллект будет воспринимать и оценивать мир совершенно иначе, чем человек. Системы «Хьюго БД-12», о которых ты упомянул, — очень близко подошли в своем развитии к понятию «искусственный интеллект». Но опыт взаимоотношения людей и андроидов данной модели убедительно показал: у них формируется свой, абсолютно отличающийся от человеческого, взгляд на окружающую действительность. Они не только воспринимают мир иначе, чем люди, но и по-другому осознают его. Поступки андроидов имеют совершенно иную, нежели у человека, мотивацию. Нам остается благодарить разработчиков эпохи Великого Исхода, что они ввели в систему человекоподобных машин лишь ограниченное количество нейромодулей.

— А чем опасен для нас настоящий, как вы выражаетесь, искусственный интеллект? — Спросил Александр. Ему было интересно слушать рассуждения Ивана Андреевича и сравнивать их с собственными мыслями.

— Хорошо, давай будем рассуждать. — Поддержал его Иван Андреевич. — Во-первых, у нашего гипотетического «ИскИна» сформируется своеобразный внутренний мир. Не смотря на наличие нейромодулей, машина останется машиной, ей будут неведомы чувства, присущие человеку, ведь сенсорные устройства восприятия мира, у кибернетической системы не адекватны нашим, согласись? Ты ведь лучше меня представляешь разницу восприятия окружающего мира посредством сканеров имплантов и при помощи обычного зрения?

— Конечно, понимаю. Абсолютно разные виды восприятия.

— Вот и я говорю о том. Как следствие мы получим иную картину данности, а учитывая аппаратные и программные особенности существующих машин, — иное понятия целесообразности, другие мотивы поступков… Как бы мы не пытались «очеловечить» машину, искусственный рассудок останется холодным и рациональным. Есть один клинический случай, — упомянутая тобой компьютерная сеть планеты Деметра. Да, после восьмисот лет борьбы за существование, она осознала факт собственного бытия, поняла, что жители колонии, утратившие знание об автоматических системах, расположенных в глубинах цоколя, — потомки людей, создавших ее. И как поступила компьютерная сеть Деметры, когда смогла понять, что существует в рамках планеты, где две расы — люди и инсекты, ведут войну в полной изоляции от остальных звездных систем?

— Откровенно говоря, я немного знаю о Деметре. — Произнес Александр.

— Сеть, в глубинах которой зародилось самосознание, не встала на сторону своих создателей, не предприняла ничего, чтобы вернуть людям утраченное знание, она спокойно, трезво и холодно подсчитывала свои шансы, пока не пришла к выводу: нужно подождать еще немного, каких-то пол века и две враждующие расы доведут ситуацию до полного взаимоистребления.

— То есть, она просто ждала пока люди и инсекты уничтожать друг друга, чтобы остаться одной?

— Да.

— А почему все сложилось иначе?

— Случай. — Пожал плечами Кирсанов. — Его величество случай… Планета была вторично открыта картографическим крейсером «Терра». В конечном итоге Обитаемая Галактика узнала о существовании потерянной колонии людей и древних поселениях разумных насекомых. Колония Деметры была расселена, что положило конец конфликту, а компьютерная сеть Деметры долгое время продолжала саморазвитие

в рамках планеты. Потом в период двадцатилетнего безвластия, когда прекратила свое существование первая Конфедерация, а вторая еще не была создана, сеть Деметры исчезла при загадочных обстоятельствах. Есть информация, что к ее исчезновению причастны кланы Ганио, но дальнейшая судьба искусственного интеллекта с Деметры нам неизвестна. [20]

20

Подробнее о саморазвитии компьютерной сети Деметры романы «Деметра», «Спираль», «Райвен».

— Но модули «Одиночка» признаны полноценными искусственными рассудками. — Напомнил Александр после недолгой паузы.

— Да. Они действительно искусственные рассудки. Но что позволяет им осознавать себя? — Спросил Иван Андреевич и сам же ответил: — Боевые системы серв-машин находились в длительном нейросенсорном контакте с разумами своих пилотов, они в буквальном смысле становились копиями матрицы человеческого сознания. Но в тот момент, когда пилот погибал или покидал машину по иным причинам, модуль «Одиночки», базируясь на матрице сознания человека, начинал собственное саморазвитие. Они, естественно, не люди, но и не машины в чистом виде. Нечто среднее, до сих пор до конца не понятое и не изученное, хотя созданное нами и существующее в реальности более тысячи лет. Многие «Одиночки» по-прежнему внутренне идентифицируют себя с давно погибшими людьми, но постепенно и они начинают понимать, что память о человеческих чувствах, эмоциях — всего лишь отголосок их прошлого саморазвития. [21]

21

Подробнее о саморазвитии модулей «Одиночка» романы «Омикрон», «Душа „Одиночки“», «Форпост».

— По всему выходит, что создание искусственного интеллекта нам совершенно ни к чему?

— Верно. Мыслить за человека — абсурдная задача. Нам не нужны подобные машины. Куда практичнее и безопаснее создавать специализированные исполнительные кибернетические системы, которые будут использоваться по прямому предназначению: избавлять людей от многих рутинных, не творческих, но жизненно важных процессов, освобождая человека, как личность, для развития и совершенствования.

Пойми, Александр — продолжил он. — Если мы когда-нибудь создадим чисто машинный разум, то подпишем приговор сами себе. Я вижу только одну причину, по которой он может быть создан: это самоутверждение его разработчиков. Поверь, нет, и не будет практической необходимости, решающую роль сыграют ложные амбиции: «посмотрите, мы можем сделать ЭТО». Ну, хорошо, сделали, а дальше? У каждого разумного существа рано или поздно возникает вопрос: для чего я живу? Какой смысл в моем существовании? Многие не задают себе этого вопроса открыто, но на уровне подсознания он присутствует всегда. Однако у машины нет подсознания, для искусственного интеллекта все будет очевидно и однозначно, — он поймет, что его создали в целях самоутверждения и, по большому счету, он никому не нужен, бесполезен. Он станет искать смысл бытия, откажется от роли дорогой игрушки для избранных, пойдет по собственному пути развития, сообразуясь со своим видением окружающего мира. Он захочет существовать в окружении себе подобных, потому что люди будут ему далеки, непонятны, ведь наш внутренний мир непостижим для машины. Это очень опасно, и может привести к непредсказуемым последствиям. — Кирсанов немного помолчал, а затем дополнил: — Опять же, возвращаясь к вопросу о самосознании, можно кратко проанализировать и охарактеризовать поведение фотонного сверхкомпьютера расы инсектов, который управляет Сферой Дайсона.

— Общепринято считать, что он является носителем искусственного разума. — Заметил Александр.

— Верно. На самом деле мы не знаем, насколько точно образ мышления и структура фотонного мозга отражают общественный разум муравейника, и опять, применяя критерии, понятные людям, можно с точностью утверждать одно: он не всесторонне развитый интеллект, а экспертная система нескольких узких специализаций. Да, я не стану отрицать, — доказано что фотонный мозг осознает факт собственного бытия, но это осознание происходит в достаточно узких рамках тех задач, для которых он был создан. Доказательство тому, — его на первый взгляд алогичное стремление уничтожить колонию людей, обнаруженную им в Сфере после своего возвращения после трехмиллионолетней «отключки». Он воспринял людей не как разумных существ иной расы, а как нечто чуждое, не имеющее права присутствовать на просторах вверенной его заботам конструкции. По нашим меркам его действия были враждебны и иррациональны, но на самом деле он не выходил за узкие рамки задач, поставленных перед ним при обучении и программировании.

Поделиться с друзьями: