Выбор по Тьюрингу

– Вы хотите сказать, что он узнает, какую стратегию применить в данной ситуации, вспомнив, какая пригодилась ему в прошлом?

– Именно так. Вместо того чтобы искать жесткую формулу, которая срабатывала бы всегда, пусть учится на опыте, от одного случая к другому. Потому что нам нужна машина, которая была бы разумна сама по себе, чтобы не приходилось постояннно дежурить поблизости, поправляя ее, когда что-то идет не так. Мы должны научить ее исправлять ошибки по мере их появления. Исправлять самостоятельно, без нашей помощи. Теперь я знаю, что делать. Помните, когда она словно ходила по кругу, повторяя одно и то же? Нам-то легко было видеть, что она бьется на одном месте. Но она не понимала, что зациклилась, – и именно потому, что зациклилась, она не могла выйти за пределы замкнутого круга и увидеть его со стороны. Это мы исправим – добавим записывающее устройство, которое будет запоминать, что она только что делала. И часы, которые будут то и дело прерывать работу программы, чтобы она могла просмотреть запись и увидеть, что движется по кругу.

– Или еще лучше – добавить еще один процессор, который будет постоянно работать, присматривая за первым. Мозг Б для присмотра за мозгом А.

– А может быть, и мозг В для присмотра, не зациклился ли мозг Б. Черт возьми! Я только что вспомнил, что в одной из моих старых записей говорилось: «Здесь поставить мозг Б, чтобы подавить зацикливание». Надо бы мне, конечно, тогда писать пояснее. Дайте-ка я прикину, каким должен быть этот мозг Б.

– Только не сейчас! В таком состоянии вы все испортите.

– Вы правы. Пора спать. Лягу, не беспокойтесь, только сначала чего-нибудь поем.

– Я пойду с вами и выпью кофе.

Брайан отпер дверь и сощурился от яркого солнечного света.

– Вы мне как будто не доверяете.

– Да, не доверяю – после сегодняшней ночи.

Шелли прихлебывала кофе, пока Брайан расправлялся с завтраком по-техасски – бифштексом с яйцом и оладьями. Не в состоянии его одолеть, он перевел дух и отодвинул тарелку. Если не считать двух сменившихся с дежурства охранников, которые сидели за столом в дальнем углу, они были в столовой одни.

– Вот теперь я чувствую себя более или менее человеком, – сказал он. – Еще кофе?

– Нет, мне более чем достаточно, спасибо. Как вы думаете, сумеете вы наладить ваш свихнувшийся искусственный интеллект?

– Нет, я так на него разозлился, что стер ему всю память. Придется заново переписать кое-какие программы, прежде чем мы снова его загрузим. Это займет пару часов. Даже ассемблеру «лама-5» требуется для таких вещей много времени. И на этот раз, прежде чем запускать новый вариант, я хочу сделать резервную копию.

– Это значит – дубликат. А как вы думаете, когда у вас будет работающий человекоподобный искусственный интеллект, можно будет снять копию и с него?

– Конечно. Что бы он ни делал, это все равно всего лишь программа. Программу всегда можно скопировать, и любая копия ничем не будет от нее отличаться. А почему вы спрашиваете?

– Проблема индивидуальности. Будет ли второй искусственный интеллект в точности таким же, как и первый?

– Да, но только в тот момент, как будет скопирован. А как только заработает, начнет думать сам, – станет меняться. Вспомните: мы не что иное, как наша память. Когда мы что-то забываем, или чему-нибудь обучаемся, или нам приходит в голову новая мысль, новая ассоциация, – мы меняемся. Становимся кем-то другим. И это же относится к искусственному интеллекту.

– Вы в этом уверены? – спросила она с сомнением.

– Безусловно. Потому что именно так функционирует сознание. А это значит, что мне придется еще много поработать над критериями оценки. Потому-то и оказались неудачными столько прежних вариантов Робина. Проблема в оценке последствий – мы об этом уже говорили. На самом деле схема «возбудитель—реакция—вознаграждение» для обучения не годится: таким способом можно решать только простые задачи, дающие непосредственный результат. Нет, нужно добиваться масштабного мышления, надо обдумывать долгосрочные последствия, выяснять, какие стратегии действительно были эффективными, а какие заводили в тупик, какие ходы, казавшиеся полезными, на самом деле ничего не дали.

– У вас получается, что сознание – это что-то вроде… вроде луковицы.

– Ну да. – Он улыбнулся этому сравнению. – Хорошая аналогия. Слой за слоем, и все соединены между собой. Человеческая память не просто ассоциативна, она не ограничивается сопоставлением ситуаций, реакций на них и результатов. Это еще и прогноз. Возникающие ассоциации тоже должны включать долгосрочные цели и планы. Вот почему так важна разница между краткосрочной и долговременной памятью. Почему требуется примерно час, чтобы запомнить что-то надолго? Потому что должен быть какой-то буферный период, чтобы решить, какое поведение на самом деле достаточно полезно, чтобы занести его в память.

Внезапно он ощутил усталость. Кофе остыл, голова начинала болеть, надвигалась депрессия. Шелли заметила это и дотронулась до его руки.

– Пора спать, – сказала она. Он вяло кивнул и с трудом поднялся со стула.

Глава 26 19 июня 2024 года

Беникоф постучал, и Шелли открыла ему дверь.

– Брайан только что пришел, – сказала она. – Я как раз достала для него пива. Вам тоже?

– Если не трудно.

– Заходите, взгляните, как я устроилась, – в конце концов, оплатили все это вы.

Она ввела его в гостиную, где были тщательно вытравлены все следы казармы. Окно обрамляли шторы от пола до потолка из яркой ткани ручной работы. Темно-оранжевый ковер был подобран в тон их рисунку, с ним гармонировали и изящные линии датской мебели из тикового дерева, а почти целую стену занимало красочное пятно посткубистской картины.

– Прекрасно смотрится, – сказал Бен. – Теперь я понимаю, почему бухгалтерия была в истерике.

– Вовсе не из-за этого. Ткань и ковер – это израильский дизайн и арабская работа, стоили они не так уж дорого. Картину дала мне на время художница, моя подруга, она надеется, что кто-нибудь ее купит. Большая часть денег пошла на кухню – она оборудована по последнему слову техники. Хотите посмотреть?

– Сначала пиво. Мне нужно к этому подготовиться.

– Не хотите ли вы раскрыть тайну этого приглашения на таиландский обед? – спросил Брайан, уютно развалившийся в мягком кресле. – Вы же знаете, что мы с Шелли здесь, в «Мегалоуб», на положении пленников, пока вы не выловите убийц. Как мы можем отправиться в этот ваш таиландский ресторан?

– Если вы не можете отправиться в Таиланд, Таиланд может прийти к вам. Когда вы сказали, что хотите ввести меня в курс вашей работы над искусственным интеллектом, я подумал, что это надо отпраздновать. Спасибо, Шелли.

Бен сделал большой глоток холодного «Текате» и вздохнул:

– Хорошее пиво. Все началось на прошлой неделе с проверки, которую проводит служба безопасности. Я вхожу в состав комиссии из военной разведки – она проверяет каждого солдата, которого предполагается перевести сюда. Таким способом я и узнал, что рядовой Лэт Фроа завербовался в армию, только чтобы не работать в отцовском ресторане. Он заявил, что ему невмоготу стоять у плиты и хочется отведать настоящей жизни. Однако после года армейской кормежки он более чем счастлив приготовить настоящий таиландский обед на здешней кухне, если я достану все нужные приправы. Я их достал. Повара ничего против не имеют, а для личного состава это долгожданное разнообразие. С двух часов столовка в полном нашем распоряжении. Мы выступаем в качестве морских свинок: если нам понравится, Лэт пообещал вечером накормить всех остальных.