Молох (сборник)

5

Не следует считать, что проблемы типа « NP», разламываемые при помощи генетических алгоритмов, — это уже ВСЕ в сущности проблемы, с которыми можно еще встретиться. Существуют, естественно, и такие задачи, в которых генетической алгеброй, генетическими алгоритмами добраться к цели не удастся. И также никто не должен считать, что мы благодаря представленным выше открытиям уже достигли вершины знаний и тем самым уже все теоретико-практические трудности на будущих наших дорогах будем способны преодолеть. Считаю открытия, сделанные благодаря генетике, так же, как и открытия дирижерских генов ( HOX), важнейшими шагами, которые были сделаны в области биологии в двадцатом веке. Технологии, рожденные жизнью и имеющие внебиологическую применимость, я всегда считал совершенными SUI GENERIS, и поэтому в глуши шестидесятых годов тщетно писал о том, как много пользы (и как ужасно много опасностей) станет нашим трофеем, когда выйдем из области жизни, применяя подсмотренные у жизни инструменты и стратегии, в человеческий мир. Думал и о том, что эффекты, порожденные этим, может быть, окажутся и нечеловеческими, но чрезмерно и не предостерегал, успокоенный тем, что когда я вещал о добре или зле, никто меня не слушал. Что, впрочем, является естественным ходом вещей и делом не особенно важного значения.

Умные роботы [143]

1

Огромное количество теоретиков и практиков разных специальностей, существующих на Земле, работают в последнее время над тем ответвлением Искусственного Интеллекта, которому можно приписать sui generisсхожесть с человеческим складом ума или, говоря с осторожностью более широко, со складом ума животных.

2

143

Zmy'slne roboty, 1996. © Перевод. Язневич В.И., 2003

На чем это сходство должно основываться? Проблема поддается разделению на «архитектоническую часть» (например, на то, какие нейроподобные сети следовало бы сконструировать, какие процессоры и т. д.) и на теоретическую часть с явным философским привкусом. Здесь я займусь второй частью, ибо проблема архитектоники строительного материала псевдоразума так же второстепенна, как и проблема, содержащаяся в вопросе, как должно двигаться транспортное средство по пересеченной местности: при помощи гусениц или каких-то специального вида колес, подобных тем, при помощи которых передвигались американские и советские лунные машины.

3

Сконцентрированные и сокращенные до основного стержня «философские вопросы» приводят к следующей проблеме: каким образом ввести в «разум робота» ВОЛЕВУЮ составляющую. Самая лучшая шахматная программа в самом быстром на сегодняшний день компьютере не содержит ни одного волевого компонента. Она обладает примерно таким же «стремлением к заданной (престабилизированной) цели», как металлический шар, разбивающий стены, которые мы хотим разрушить, или как снаряд, выпущенный из пушки. Программа некоторым образом имитирует желание достичь заданной сверху цели, а разница между движущимся снарядом и очередным шахматным ходом основывается на том, что снаряд «по дороге к цели» не наталкивается на мешающие ему преграды (точнее, «не должен» натолкнуться благодаря знанию артиллеристов, которое наверняка «находится вне пушек и снарядов»), в то же время дорогу к цели (каковой является поставленный противнику МАТ) затрудняет программе тот же противник своими ходами, которые должны полностью свести на нет «постановку мата» программой.

4

Подражание волевым актам или «хотению» чего-либо, разумеется, возможно, но это тоже есть чистая имитация, ничего общего с подлинным актом воли не имеющая. Если, например, программа должна искусно имитировать волевые акты, программист должен предвидеть, какие возможные препятствия программа встретит и каким образом она должна им «противостоять». Таких возможных преград должно быть много или очень много. На очередной вопрос, необходимо ли все «поддающиеся предвидению» преграды expliciteзапрограммировать (или предвидеть весь их набор, ограниченный сверху), можно ответить, что так быть не должно. Естественная эволюция не действует так, чтобы «программы», действующие в живых созданиях, смогли справиться со «всеми возможными преградами». Известно, например, что хотя мухи уже сотни лет могут, ПОТОМУ ЧТО так запрограммированы, живо выскользнуть из-под хлопушки для мух, они не способны «разгрызть» загадку СТЕКЛА (окна). С точки зрения их образа жизни способность мух к «обучению» (или к созданию видовых условных рефлексов) по сравнению с пчелами очень мала, поскольку пчелы овладели даже «сигнальным языком», так как он был им необходим в искусстве выживания ( survival of the fittest). ЭТИМ искусством, не заданным извне ПРОГРАММИСТОМ, а попросту являющимся результатом долгих серий процесса естественного отбора, никакие сконструированные людьми роботы еще не овладели. Мы можем развивать имитацию «воли выживания», писать научные трактаты о квазиволевом функционировании, конструировать все более сложные псевдонейронные сети, но мы не сможем опуститься до молекулярного уровня, на котором уже вирусы и бактерии умеют так «перетасовывать» свои геномы, что способны избежать или преодолеть разрушающие их действия лекарств (например, антибиотиков). Это обычно и происходит для нейтрализации губительного (для микроорганизмов) биохимического действия лекарства или с целью такого изменения антигенной структуры микроорганизма, что «лекарство не может его найти». Иногда я использую метафорические определения, так как иначе я должен был бы приводить длинные и сложные рассуждения в физических, химических или биохимических терминах, от которых предпочитаю отказаться, ибо мне здесь важно только то, что зачатки «хотения», зародыши волевых актов уже можно найти в наиболее простых живых организмах.

5

Необходимо четко уяснить, что в области, в которую мы вступили, никакие запутанные ухищрения не помогут. Движение стрелок часов может быть вызвано пружиной, электромоторчиком, гирей — в последнем случае часы своему мерному ходу обязаны земной гравитации, и там, где ее нет, как на орбите, они идти уже не могут. В каждом таком примере движение векторно сориентировано «сверху», то есть часовщиком-конструктором. В то же время мы ведем речь о том, чтобы «электронный мозг», компьютерный «разум» (или как его еще назвать) робота имел в виду, психически воспринимал, предвидел ЦЕЛИ, к которым он будет двигаться, при этом о его отдельных решениях, создающих смысловое единство, мы заранее знать не будем, как не знаем, какие решения будет принимать полярник в своем походе на полюс или на гору Эверест. Иначе говоря, речь идет о прогрессирующей, адаптационно успешной суверенизации робота — в последней фазе совершенствования волевых актов он, возможно, будет равен человеку…

6

Среди экспертов повсеместно преобладает распространенное убеждение, что миллиарды лет, которые в результате организовали кембрийский взрыв видов, а стало быть, и многообразные формы survival of the fittest, может «напрямую» заменить человеческий разум. Если мы все тщательно продумаем и создадим необходимые теоретические науки, то нас быстро окружат роботы, обладающие «волей», которых мы сможем «подговорить» и направить на достижение необходимых НАМ целей. Однако при такой возможности не в виде исключения следует учесть и то, что такие роботы смогут достигать указанных им целей не как плохо нацеленный снаряд, а как неблагодарный ребенок или как выпестованный нами вредитель. Наделенные волевой суверенностью роботы могут нам сопротивляться — и здесь я не имею в виду излюбленный из-за примитивизма воображения «бунт» роботов против человека. Я думаю только о том, что когда количество степеней свободы поступков увеличивается, то уже не «только добро» будет следовать из этого, ибо в свободе может сформироваться и некое «зло». В естественной эволюции это видно даже слишком хорошо, и эти размышления могут немного затормозить нашу намеренность наделить роботов «свободной волей».

7

Кстати, прозвучало слово «намеренность». Оно означает именно определенную направленность на то, что «намерение» желает указать. Речь идет не только или почти не только о намерении в понимании феноменологии как определенного направления философии. Речь только о том, что наши компьютеры никакого следа намеренности не демонстрируют, и, может, стоит задуматься над тем, как реально и просто эту намеренность из них высечь?

8

Единственным в мире известным нам способом для осуществления этого является естественная эволюция, которая то, что живое, но проявляет недостаточно намерений к жизни, без «жалости» уничтожает, а то, что намерение жизни искусно реализует, сохраняет на какое-то время (в норме — время размножения). Наибольшей проблемой для теоретиков и практиков конструирования является, к сожалению, то, что эоны времени, необходимые естественной эволюции, то есть миллиарды или по меньшей мере миллионы лет, являются препятствием, которое мы не преодолеем. По моему мнению, все зависит от того, имеется ли какая-нибудь методика, какая-нибудь стратегия ускоренного получения волевой составляющей, намеренности или попросту ХОТЕНИЯ чего-нибудь. Люди обоих полов имеют некоторые внутренние стремления, например, либидо, голод, жажда и т. д., но, кроме того, проявляют разнообразную чрезмерность ( redundance), распространяющуюся от изготовления кремниевых молотков и боевых топоров до строительства замков из кирпича или из спичек и last but not leastкосмических полетов.

9

Чтобы волевая составляющая как-то начала функционировать, для нее необходима «картина мира» или хотя бы только окружающей среды. Ребенок должен сначала узнать, что Луну снять с неба рукой не удастся, чтобы затем он через несколько десятков лет смог участвовать в программе Apollo.

10

Псевдомодели активного проявления воли, то есть «хотения», можно сконструировать и так, что в программу вводится генератор случайных событий, благодаря чему мы сумеем предвидеть будущие состояния и, возможно, функции «робота», но никто этого не хочет. Никто не желает этого, за исключением лотереи или лототрона. Одна женщина жаловалась психиатру на сына, рассказывая, что он съел весь торт, предназначенный для праздничного стола, и изнасиловал кухарку. «Не является ли это, — спрашивала она, — доказательством его ненормальности?» «Нет», — ответил доктор. Если бы сын съел кухарку и изнасиловал торт, можно было бы на это смотреть иначе. Это неплохой пример функционирования «случайного генератора», который должен изображать нам волевую деятельность. Она должна быть наделена каким-то смыслом. У бактерии, блохи или слона это будет смысл выживаемости, у человека, как говорилось, количество более или менее осмысленных поступков намного больше, мы знаем также слишком хорошо (к сожалению), что люди способны желать для себя вредные, безумные и даже убийственные вещи. Я не представляю себе, чтобы робот мог иметь почти беспредельную волевую составляющую, чтобы он мог владеть artificial intelligence, будучи освобожденным от сильных ограничений — как люди. Мы ведь находимся «в путах» определенных положений, моральных законов, установленных традициями или воспитанием, которые нас во многом сдерживают, так как если бы этого не было, то не было бы преград и тормозов в желаниях поедания или насилия.

11

Я упорно возвращаюсь к вопросу, каким образом мы могли бы наделить роботов «желаниями», подкрепленными определенными запретами и направляющими ориентациями. Это очень трудная проблема, и идея Айзека Азимова, содержащаяся в его трех законах «роботехники», — это чистейшая нереализуемая утопия. И выбросив за борт рассуждения всякой утопии, мы будем вынуждены подставить лоб различным антимониям жизни, поскольку существуют различно достигаемые цели, по-разному отягощенные аксиологически и вместе с тем НЕДОСТИЖИМЫЕ, и тогда обычный человек теряет голову (как говорится) или же, чтобы голову совсем не потерять, бросает монету, высматривая орла или решку. Проще говоря, он тогда сдается на милость судьбоносному механизму, полностью внешнему по отношению к нему и по результату абсолютно от него не зависящему. Но если бы роботы, приодетые в юридические тоги, заседали в каком-нибудь трибунале, намереваясь разрешить наши конфликтные дела, то мы были бы не в восторге, когда бы их приговоры зависели от чисто случайных механизмов.