Молох (сборник)

5

Всю креационную проблематику столь открытого и столь нового пространства я, естественно, могу здесь только обозначить. Тот факт, что именно такое новое направление трудов в сфере «неразумного интеллекта» (ибо можно и такими словами назвать направление работ над самостоятельными и самодействующими машинами) я предвидел давно, демонстрирует своего рода всеобщее ослепление убежденностью, что ничего не может быть важнее в конструктивной информатике, чем соревнование с человеческим мозгом. Однако поскольку велосипеды созданы не «по образцу страуса», а самолеты — не по образцу птиц (в отличие от орнитоптеров, над которыми напрасно трудились в XIX веке), а лошадь не удалось смоделировать при помощи какого-нибудь «педипулятора», мне казалось, что желание повторить в электронном материале человеческий мозг с его эмоциональной жизнью, с его сознанием и подсознанием было всегда немного «на вырост» и следовало из нашего слишком хорошего мнения о человеческом мозге: что будто бы ничего не может быть разумно ИНАЧЕ, разумно БОЛЕЕ, «осмысленно безрассудно», что никто не может ни в какой области равняться с человеком или моделировать хотя бы некоторые из его функций. Естественно, я не считаю, что «искусственный инстинкт» должен быть родственен моему «выращиванию информации», о котором я здесь уже писал. Эти сферы как бы параллельны. Важнейшей проблемой мне всегда казалось, возможно, неопределенное в силу объективных причин (вызванных актуальным невежеством) предвидение и ВИДЕНИЕ такого пространства инновационного творчества, которое лежит перед нами, которое у нас перед носом (как сидящая на нем муха), но которое мы не в состоянии увидеть. Я уверен, что микророботы и их потомство окажутся областью захватывающих достижений и многообразной специализации. В том числе, как я уже писал, и в военной сфере. Однако туда я углублялся бы сегодня неохотно, поскольку опасности, уже, к сожалению, не фантастические, выглядывают из-за вершин наступающих лет быстрее, чем нам бы хотелось.

6

В конце я добавлю такое общее и предостерегающее замечание. Вступая на дорогу, а точнее говоря — сначала только на тропинку новых технологических решений, мы становимся, не зная об этом, лицом к лицу перед опасностями, которые предсказателям даже не снились. Джинн атомной энергии, выпущенный из нуклонов, уже не поддается попыткам впихнуть его обратно в первоначальное укрытие. От микроразмерной роботехники мы также можем ожидать много неизвестных нам услуг, но также много неиспытанных еще несчастий.

7

Отрезвляющему принижению этого моего «насекомого» прогноза, который начал осуществляться, должны послужить следующие замечания. Во-первых, насекомые, как и все, что составляет живую природу, не служат ничему (хотя могут быть, как, например, пчелы, использованы нами). Но в целом живые создания не имеют никакой цели существования, кроме дарвиновской — выживание наиболее приспособленных. Следовательно, и биоморфы не годятся сейчас для чего-либо, они — «машины только для существования». Во-вторых, насекомые размножаются и благодаря этому проложили свою богатую видами эволюционную колею. Ясное дело, чтобы размножаться, нужно располагать специально ориентированными системами организма, которые именно среди насекомых проявляются своей необычайной разнородностью в многоэтапности жизни (от яйцеклетки, гусеницы, личинки в разных жизненных средах через метаморфозы до зрелой формы, способной к размножению). Для биоморфов трудно ожидать чего-то аналогичного. Простейшей их задачей могла бы быть борьба, связанная с авторазрушением, и потому я посвятил ей текст, процитированный во вступлении. Но «мотивацию», как сито, селекционно управляющее программой существования, мы можем в принципе включать в программы будущих биоморфов, и это означало бы, говоря очень кратко и метафорично, «выход из шаблона насекомых» в направлении, которого сегодня мы не можем еще придумать, так же, как ни один внеземной разум не сумел бы в мезозойскую эру «додумать» современного человека — homo sapiens. Тогда не было никаких предпосылок и никаких образцов в качестве указателей направлений для такого прогноза, и то же самое приходится говорить в вопросе биоморфов. Может быть, возникнут летающие формы, формы, которыми энтомологическая инженерия могла бы пользоваться в целях, которых мы не знаем, так как они еще не появились. То, что человек не является «машиной для ничего», ибо изобрел свою прометеевскую и фаустовскую основу, объясняется тем, что мы покинули страну естественной эволюции и благодаря разуму должны жить и выживать «по собственной инициативе».

Есть еще небольшой вопрос: в чем причина того, что я взял парадигму насекомого как образец для проектирования и почему столько раз к ней возвращался? Но на этот вопрос ответа я не знаю. Мне кажется, что в ожиданиях, обращенных к технологии биоморфов, я осторожнее американских ученых: если они говорили УЖЕ о «разумности», которую можно приписать биоморфическому пути, то я по-прежнему считаю, что говорить следует об «инстинкте», который, однако, может проявлять в действии ВИДИМОСТЬ некоей разумности. Различие между интеллектом и инстинктом в том, что интеллект может сам программироваться и перепрограммироваться, инстинктам же этого не дано.

Искусственный интеллект как экспериментальная философия [126]

I

1

Для ясности следует сказать, что не существует ни искусственного интеллекта, ни экспериментальной философии — существуют только зачатки, предположения и начальные связи между ними. Это положение вещей не меняет даже поток работ и книг с аналогичными названиями, в которых рассматривается теория и практика бытия, где HARDWAREи SOFTWAREвыступают КАК отдельные более или менее универсальные представители (или только частные модели) ИСКУССТВЕННОГО ИНТЕЛЛЕКТА ( Artificial Intelligence). Когда не существовало даже эмбриона АI, Саймон и Ньюэлл назвали свою программу « GPS»: General Problem Solver. Таких названий «на вырост» здравый смысл советует избегать, ибо что может быть лучше и универсальнее, чем «Всеобщий Решатель Проблем»? Его не было и по-прежнему нет. То же самое можно сказать и об экспериментальной философии, имея в виду и то, что у этого выражения есть привкус оксюморона, потому что философия «не знает границ», то есть она заканчивается не там, где начинается поставленная Карлом Поппером стена экспериментальной фальсификации. Философия выходит за рамки неустойчивости опытов (эмпирических, не ментальных), и это идет в различных направлениях, будь то онтология, наука о бытии (существовании), или эпистемология (наука об источниках правомочности познания).

126

Sztuczny intelekt jako eksperymentalna filozofia, 1995. © Перевод. Язневич В.И., 2004

2

Уже здесь я вынужден заявить, что не считаю не только «человеческий разум» уникальным явлением в космосе, обязательным изначально, но и все философские школы на Земле я не считаю исчерпывающим «потенциальным собранием возможных философий». Я считаю, что мы, как существа разумные, являемся подклассом собрания таких существ в Космосе, и это касается и наших философских систем.

С вышеуказанным ограничением, кроме как аподиктически, поспорить не получится. На Земле существует много религиозных верований, оформивших свою мировоззренческую ориентацию в виде философии. С точки зрения естествознания существует только одна точная наука в отличие от гуманитарных наук, где principium falsificationis experimentalis [127] применить не удастся. Для точности надо добавить, что размеры устойчивости или слабой устойчивости естественных дисциплин очень разные. В зависимости от точки зрения эволюция по Дарвину является или не является устойчивой на практике, a fortioriэто касается антропогенеза, лингвогенеза и (повторяюсь) биогенеза. На вопрос, позволяет ли или не позволяет освобожденный и помещенный в физический вакуум ГЕНОМ (как «нуклеотидное плетение ДНК») в таком состоянии изоляции вывести из своей физико-химической структуры ЖИВОЙ ВИД, из которого он был взят, мы точного ответа не знаем — ни ДА, ни НЕТ. Эта неуверенность может быть ликвидирована только в процессе дальнейшего прогресса науки, и поэтому уверенно говорить, что будет так или иначе, сегодня трудно.

127

принцип фальсификации эксперимента (лат.).

3

Овладение новой территорией знаний, то есть вступление в область, представляющую собой белое пятно в нашем прежнем познании, сопровождается в основном достаточно наивным оптимизмом, упрощающим проблемы и иногда являющимся редукционным. Говоря наивно, склонность к редукционизму является одной из основных черт познающего человеческого сознания, так как МЫ ЖЕЛАЕМ, чтобы было так, как говорил Эйнштейн: « Raffiniert ist der Herrgott, aber boshaft ist Er nicht». Однако надежда на это часто не оправдывается.

4

Учитывая этот фактор познания, начало исследований, у которых впереди просматривалась перспектива обладающего Разумом ИСКУССТВЕННОГО ИНТЕЛЛЕКТА как Души в Машине, было полно оптимизма. Скоро выяснилось, что он несвоевременный, а не только преждевременный.

5

Сообразительность — это способность переработки данных, полученных органами чувств, с целью максимализации возможности выживания особей и их потомства. Разум, как я думаю, является надстройкой над этой способностью животных, позволяющей выходить за границы минимального survival of the fittest: ибо мы выходим за пределы получаемой информации от органов чувств и ее интерпретации животными, что породило в человеке каузализм. Каузализм был навязываем миру везде, «где придется», например, как анимизм: между танцем для вызова дождя и дождем как осадками тоже ДОЛЖНА была существовать причинно-следственная связь, и эта динамичная схема, сохраняясь во многих религиях, как правило, в своем продолжении выходит за границы мира (в некий потусторонний мир, или в какой-нибудь метемпсихоз, или еще куда-то, туда, например, где раки зимуют). В XVIII веке Д. Юм критиковал «эвристику каузализма» как «закон самодостаточный своими доказательствами», имеющими силу логики. Эта эвристика — как считали — не следует из опыта. Это было развитие взглядов Локка, который не признавал существования знания a priori. А Кант считал, что синтетические суждения a prioriвозможны (как уже врожденные). Спор же был о том, справедливо ли nihil est in intellectu, quod prius non fuerit in sensu [128] или нет. По моему мнению, не надо обязательно заниматься теориями искусственного интеллекта, а скорее сравнительной нейрофизиологией животных и людей, а также их поведением в конситуативно приближенной или идентичной среде (нише), чтобы заметить, в какой степени «разумность» человеческая или нечеловеческая обусловлена внешним миром (также и в смысле imprinting [129] ), ограничена («невозможностями») им и затем сформирована. Конечно, Юм, отвергая принцип каузализма как логического понятия, был прав. Впрочем, благодаря достижениям физики ХX века мы вышли уже в определенном смысле «за разум», так как МЫ ЗНАЕМ, НО НЕ ПОНИМАЕМ, например, квантовой механики, тоннельных эффектов в микромире, а также «замену местами» времени и пространства под поверхностью событий Черных Дыр в Мегамире.

128

в разуме нет ничего, что отсутствовало бы ранее в чувственном восприятии (лат.).

129

запечатление (англ.).

6

В 90-е годы появились два достаточно разных подхода к вопросу о структуре компьютерных программ, способных понимать естественный язык. Один подход опирается на концепции лингвистической философии, второй — исходит из герменевтики. Основная идея лингвистической философии — это анализ значения слова путем его разложения на элементарные «семантические» составные смысла с использованием логического подсчета для выявления значения.

Герменевтик же видит в слове потенциальную бесконечность значений, актуальное же значение слово получает в конкретном контексте. Определенный контекст ликвидирует эту «бесконечность». В. Налимов подходил к этому вопросу подобным же образом, введя в своей книге «Вероятностная модель языка» формулу Бейеса, которая сначала определяет вероятность ОЖИДАНИЯ информации (слова), а затем выбирает для него из всей протяженности «многозначного семантического спектра» правильные смысловые места — благодаря КОНТЕКСТУ. Эту вероятностную точку зрения я считаю очень важной, потому что наше «устройство для переработки данных», то есть мозг, работает подобным образом. Наверное, в этом месте следует сделать философское отступление для утверждения, что как мало — и вместе с тем — как много мы знаем сейчас о работе нашего мозга. Так как электрическая и электрохимическая активность является только одной из «фасеток» целостности процессов мозга, то не следует думать, что модель мозга, созданная «только из электрических, цифровых вентилей», сможет равняться с живым мозгом. Я не говорю, что это невозможно, но это очень сложно: небиологические нейроны не смогут ни развиваться, ни действовать так, как биологические, дендриты и аксоны которых способны передвигаться в головном мозге словно корни растений, и я не дам голову на отсечение, что они НЕ сориентированы какими-то возникающими в мозге «ИЗОСЕМАМИ», то есть что они не направлены в своих движениях с целью соединиться таким образом, чтобы смыслы возникали и/или усиливались. Здесь очень многое можно узнать благодаря патологическим проявлениям, которые исследуют невролог и психолог. Потому что оказывается, что наш мозг устроен «многоклеточно», многоагрегатно, или, выражаясь более современно, — многомодульно, и что отдельные модули имеют относительную независимость. Благодаря этому человек с поврежденным модулем цвета все то, что видит, видит как в черно-белом кино, а активность восприятия всего, что мы замечаем, ЧТОБЫ ПОНЯТЬ, гарантирована практикой ЗЕМНОЙ среды. Поэтому перед первой высадкой на Луну в США опасались, что лунный пейзаж может оказаться «непонятным и нечитаемым» для человеческого глаза, и соответствующие эксперименты показывали, что так может быть в определенных условиях. Герменевтика — особенно Хайдеггера — абсолютизирует язык, одновременно (верно) подчеркивая, что то, ЧТО язык создает, то, ЧЕМ он в своих смыслах ПОДДЕРЖИВАЕТСЯ и направляется через высказывания, происходит ВНЕ сознания: это незнание нашей лингвистической генерирующей динамики. Сложность мозга, конечно, является следствием структуры генотипа, но есть удивляющие нас факты, например, каким образом огромное количество характерных мелочей человеческого поведения (таких, как манера держать голову или характер письма) может наследоваться, если генный канал наследственной передачи для такой массы воспроизведений слишком узок. Мы объясняем это сегодня, принимая во внимание то, что, и вправду, плод в период «максимального темпа развития» вырабатывает в зародыше 250 тысяч нейронов в минуту, но направление их лучами происходит суммарно, целостно и слитно. Не может быть так, чтобы «каждый нейрон вели за ручку куда следует» — это исключено, и мы, как модельеры мозга, ограниченные системами, правда, произвольной сложности, НО ВСЕГДА ЦИФРОВЫМИ, то есть биологически мертвыми, с этим явлением не справимся.

7

Герменевтический подход, который выводится из направления современной философии, «вписывает», вводит слова в подсистемы универсальных объясняющих схем. Правда, здесь мы уже вступаем в большую область споров, потому что нельзя сказать, что мы думаем словами. Не обязательно мы думаем и предложениями. Мышление в определенной замкнутой (как fuzzy set) системе возможностей мы сможем уже смоделировать так, что подаваемое на «входы» получает осмысленный ответ на «выходах». Говоря другими словами, тест Тьюринга УЖЕ может быть «сломан» соответствующим компьютером во время диалога на соответствующую тему с соответственно подобранным партнером-человеком. (Хуже, когда «разговаривают» ДВА КОМПЬЮТЕРА между собой: тогда их «интеллектуальное» убожество проявляется хорошо и быстро.) «Объясняющие схемы» в англосакских институтах называются frames, здесь имеются в виду определенные отрезки мира, которые обязательно должны быть разъяснены в программе (то есть описанные explicite [130] ). Трехлетний ребенок уже владеет таким «скрытым знанием» в нем самом, и эти «схемы» ему не нужны. Так обстоит дело и с родным языком, которым владеешь, не зная грамматики, и с выученным языком, обучение которому трудоемко. А КАК ЭТО организовано в нашем мозге, мы не знаем. Мы знаем только, что и здесь имеет место многомодульность мозга.

130

явно (англ.).

8

Сейчас говорят, что все земные языки, а их всего около 4000, происходят от одного общего, на котором 12 тысяч лет назад объяснялись пралюди и который назвали NOSTRATIC. Показывают, как во многих языках «праслова» происходят от тех конечностей или их частей, которые были наиболее употребительны: «Пятерня» — пять (пальцев), Faust — f"unf, Fist — Fiveи т. д. И вместе с тем мы можем сделать вывод о том, какое влияние на зарождающийся язык имели физические факторы, например земная гравитация.