Молох (сборник)

3

Здесь напрашивается следующее замечание. Deep Blueнекоторым образом был модулем (субагрегатом), созданным технически, как бы вынутым из мозга выдающегося шахматиста-человека. Это, конечно, упрощение, ибо компьютер обладал вычислительной мощностью (200 млн. операций в секунду), коей ни один человек обладать не может, но людям недостающую производительность заменяетинтуиция — насколько таинственная, настолько и обманчивая. (И чрезмерно растягивая отступление, в скобках добавлю, что, по мнению 99 % самых выдающихся математиков, так называемая великая теорема Ферма не была доказана французским ученым; иначе говоря, интуиция подвела его, когда он написал на полях книги, что нашел доказательство, но не может его изложить за недостатком места.) Короче говоря, интуиция не обязательно бывает точной, и мы по-прежнему не знаем, «как она это делает», так как она действует вне сознания и ведет себя как отличник, который подсказывает правильные ответы товарищу, отвечающему экзаменатору: товарищ повторяет, но то, что он повторяет, ему не обязательно понимать… Разумный же ответ он сам, своей «разумностью», должен понимать. Хотя Deep Blueи весил около полутора тонн, функционально его можно рассматривать как ОДИН модуль — а мозг человека состоит из огромного количества модулей, большинство которых nota beneвообще функционально не занято чем-либо, что не происходит в самом организме (в теле) и за его пределами. Большинство модулей мозга служит телу, происходящим в нем процессам обмена и изменений (например, тканевых). Но только «меньшинство» может активно проявлять «экстерриториальную разумность». Тогда, например, все «экспертные программы», от геологических до медицинских, — это другие модули, а загвоздка в том, что эти вместилища выборочно сформированной информации, по существу актуальной и в этом смысле оптимальной, являются как бы дистиллятами современного состояния наших лучших знаний с одним, но чрезвычайно важным недостатком: они — модули «для себя» и для нашего использования (когда «призываются» для этого), но они «не понимают друг друга», и пока мы не знаем, что сделать, дабы соединить их более или менее аналогично тому, как это происходит в нашем мозгу. Составлять модули мы уже научились, но дать им способность самопроизвольно влиять на себя — еще не умеем, и в этом главная проблема Artificial Intelligence. Люди, увлеченные AI, как Марвин Минский, по-прежнему уверены, что можно сконструировать искусственный интеллект, — так же как и философы, например, Даниэл Деннетт, который, пожалуй, раз сто объяснил («выяснил»), на чем основывается сознание, и «окончательно сорвал маску и решил» загадку сознания. Такие люди живут с ощущением, что от работающего Artificial Intelligenceнас отделяет шаг или пара шагов. Однако я опасаюсь, что это не так просто. То, что целостную работу мозга составляет совместная деятельность отдельных модулей, мы сегодня знаем наверняка (если мы вообще что-то знаем наверняка).

4

Вопрос, который следует поставить, звучит так: ЧТО еще мы знаем, а чего не знаем? Так, например, известно, что мы видим то, что является видимым, но это в значительной мере — результат обучения и тренировки. Слепые от рождения, которым посчастливилось обрести зрение, «видят» хаос движущихся цветных пятен и ничего больше. Но и люди, которые никогда никаких изображений не видели, рассматривая самые лучшие фотографии, не в состоянии автоматически преобразовать в мозгу плоскую картинку в трехмерную. А, например, для собаки самый отчетливый и красочный образ на экране телевизора ничего не значит. То есть «обработка» данных есть информационно и функционально особый процесс: уже появляются компьютерные системы, которым можно диктовать на том языке, на который система запрограммирована, и после подготовки она даже может научиться писать или выстукивать произносимый текст как машинистка, что является очень хорошим достижением конструкторов, но и такая система «ничего не понимает». В последнее время появились (параллельно с шахматными матчами компьютеров и людей) очередные попытки разыграть «тест Тьюринга», то есть чтобы компьютер имитировал в разговоре обычного человека. Окончились они жалким поражением: компьютеры как ничего не понимали пятьдесят лет назад, так по-прежнему ничего не понимают.

5

В определенном, но только в определенном, узком смысле связано это с тем, что а) получившие зрение слепые от рождения (как было сказано выше) ничего не видят и впоследствии, то есть не способны автоматически и внесознательно совершить мозговые операции, свойственные здоровым людям и дающие возможность «видеть»; б) развивающиеся без контактов с нормальной человеческой средой дети где-то после 7–9 лет не в состоянии научиться разговору: они остаются почти немыми и не понимают того, что им говорят; и так далее. Значительная часть мозговых модулей, связанная с жизненными процессами (функциями) организма, в вышеназванных контактах с окружением не нуждается (мочеиспусканию и испражнению не надо учиться: мы учимся только обстоятельствам и способам, какими это следует делать, потому что в гостиной никто не спускает штаны, чтобы облегчиться). Однако же без обучения, без тренировки мозг не в состоянии достичь нормальной средней способности. Тогда было бы странным ожидать возникновения аналогичных или по крайней мере подобных способностей в результате соответствующего программирования компьютера, хотя бы он и весил сто тонн.

6

Повреждение мозгового модуля, отвечающего за цветовое зрение, ведет к тому, что человек сможет по-прежнему прекрасно видеть, но лишь как в черно-белом кино. Это свидетельствует о «наложении» друг на друга работы совместно действующих систем, относящихся к «оптической зоне» коры мозга. И что еще хуже — бывает слепота коры, которая является осознанно подтверждаемой неспособностью видеть, и слепота коры, сопровождаемая «подкорковым зрением»: человек говорит, что ничего не видит, но брошенный ему мяч хватает на лету, — это объясняется тем, что в мозгу существует целая восходящая иерархия, и такой человек одновременно «видит» и «не видит», так как «в нем» видит низшая система, почти где-то при corpora quadrigemina, [228] о чем он сам не знает в том смысле, в каком мы не знаем о функционировании почек, несмотря на то что они 24 часа в сутки неустанно работают.

228

четверохолмие (лат.) — область среднего мозга.

7

Повсеместно известно такое явление, как рассеянность, которое обоснованно или необоснованно приписывается не только пожилым людям, но и ученым, особенно мыслителям, погруженным в медитацию. Такой человек может совершать различные действия автоматически, то есть бессознательно. Они могут, но не должны быть целенаправленными или бессмысленными (например, я кладу грязную рубашку в морозилку вместо стиральной машины). Осознанные post factum, они часто вызывают смех. Рассеянным может быть только существо, наделенное интеллектом! Нет «рассеянных» мух или пчел. Это вытекает из высшей сложности интеллектуальных способностей, но, с другой стороны, нет глупых муравьев или тараканов, а от глупых людей в глазах рябит. Остается надежда, что, прежде чем создать искусственный интеллект, нам удастся сконструировать систему, наделенную значительной глупостью, но в этом я не совсем уверен… Nota beneкак очередное отступление от темы добавлю, что считаю себя достаточно умным человеком, не обремененным талантом шахматиста, но правила этой игры я, конечно, знаю. «Рассеянность» просто основана на том, что определенное, обычно известное и часто совершаемое действие выполняется автоматически, бессознательно, и, кроме того, его эффективное, то есть реальное исполнение НЕ заносится как свершившийся факт ни во временную, ни в постоянную память. Есть доказательства, что и такое действие может оставить след и быть зафиксировано при особом усилии памяти и/или под влиянием «помощи», например, гипнотизера, при этом человек осознает, что действие было совершено. (Гипнотизер nota beneсовсем не обязателен: может быть, достаточно свидетельства постороннего наблюдателя.)

8

С виду все вышеизложенное выглядит болтовней, потому что, по существу, указывает, насколько далеко отстоит разум от интеллекта, но сегодня их и машинное моделирование по-прежнему разделяет пропасть. Я лично считаю, что это переходное состояние. Невозможно то, что запрещают точные науки. Они, однако, искусственного разума не запрещают.

9

Мне кажется — но я не в состоянии подкрепить свои слова никаким веским аргументом или хотя бы его тенью, — что в конце концов будет возможна реализация ИСКУССТВЕННОГО ИНТЕЛЛЕКТА, а не ИСКУССТВЕННОГО РАЗУМА. Я думаю так, потому что интеллект мне кажется более БЕЗЛИЧНЫМ, то есть лишенным признаков индивидуальности, чем РАЗУМ. Едва ли не первым математиком, который сумел результативно и соответствующим образом использовать компьютер в творческой работе, был Станислав Улам. (Не знаю, была ли издана на польском языке его книга на эту тему: я читал ее по-русски. [229] ) Так вот, эмоциональной жизни компьютер лишен полностью, но работе математика это не мешает. Добавлю, что выдающийся немецкий психолог Дитрих Дёрнер больше года назад описывал свою компьютерную программу, которая должна была быть эмоциосозидательной, «эффективно аффективной», но его выводы не убедили меня, и что еще хуже — нигде в научной прессе я не нашел ни слова о таком достижении. Вещью известной и не исключительной является то, что самые разнообразные, то есть совершаемые в далеких друг от друга областях творческой мысли достижения были некоторым образом «подсказаны» сознанию внесознанием, которое можно было бы отождествлять с результатами действия интуиции. Не будучи ученым, в своей писательской области могу сказать только следующее: некоторые мои романы не были в их целостной фабуле написаны мной в том смысле, чтобы я что-то планировал, осмыслял, схематизировал или хотя бы предвидел, что, собственно, получится. Тогда откуда «ЭТО» взялось? Ответить напрямую, с полной уверенностью, что было так и так, я не могу, поскольку сам не знаю, и здесь я отдан исключительно домыслам (предположениям), что то, что «писалось», вытекало извне сознания и, конечно же, переходило в поле сознания, потому что я писал не в гипнотическом состоянии, но «совершенно обычно» видя, что пишу, и вместе с тем не имея понятия, «что будет», «что произойдет», то есть что я напишу еще. И таким образом (только весьма относительным), можно признать сознание главенствующим в умственном труде. Nota beneкомпьютер в ЭТОМ вопросе не отличается от работающего мозга ТАК, как prima facieмогло бы показаться, потому что и он, выполняя приказы (команды) программы, не сумел бы «заранее» напечатать, какой будет финал работы: «что из этой программы» (моделирующей, например) получится. Таким образом, между ним и нами появляются функциональные «точки соприкосновения», и то, что именно так бывает, вселяет в меня некоторый оптимизм (касательно AI) относительно будущего. Правда, может оказаться, что до «искусственного разума» дорога еще длинная. Что опять-таки связано с моим замечанием, что интеллект интеллектом, а людей глупых по статистике больше, чем интеллектуальных, а разумных — совсем немного…

229

Возможно, имеется в виду кн.: Улам С. Приключения математика. — М.: РХД, 2001.

Инфотерроризм [230]

1

В последнем номере журнала «Foreign Affairs»за прошлый год опубликована статья Уолтера Лакера «Терроризм постмодерна». Автор предварил представление этого новейшего вида терроризма кратким перечислением его исторических разновидностей. Например, он писал об аcсасинах, [231] чьей задачей было уничтожение крестоносцев. В Польше XIX века во времена восстаний были «стилетники». Мне не важна здесь мотивация поступков террористов. Достаточно типичным является деление террористов на тех, кто преследует скорее политические, чем разрушительные цели, и на «настоящих» террористов-профессионалов. К последним в наше время относятся Фракция Красной Армии, Sinn Fein, баскская ЕТА, арабский Hamasи множество других групп, не столь известных или почти совсем «угасших», как итальянские или французские («Prima Linea», «Action Directe»). Цели группировок, менее или более (Фракция Красной Армии) связно сформулированные, в основном недостижимы путем покушений на убийства, в наше время обычно направленные на «кого попало», то есть на каких-нибудь прохожих, пассажиров метро (в Японии), поезда или автобуса, а не (как в царские времена) на важных политических персон (включая и самого царя). Чисто политические мотивы, имеющие место в таких террористических движениях, как Sinn Feinили Hamas, достаточно легко «отстают» от смертоносной практики, когда речь идет о добывании средств для борьбы (ограбление банков, хищение оружия, например, а также выброс на рынок наркотиков — такие операции позволяют получить много денег). При этом факторы этической природы на всех «фронтах» движения сильно и противоречиво извращаются: если НЕТ НИКАКИХ ОГРАНИЧЕНИЙ, то нет и поводов, по которым движение, имеющее в зародыше цель достичь какого-то «изменения к лучшему», привести к «победе более совершенного строя, чем существующий сейчас», должно отказываться от похищений, шантажа, нарушения обещаний и клятв, ибо если «все средства, ведущие к хорошим целям, хороши», ничто не может удержать от таких действий, которые повсеместно считаются преступными. В общем-то ни Лакер, ни я здесь не собираемся касаться «этической» стороны терроризма, хотя из других источников известно, что практически все воюющие стороны злоупотребляют термином «терроризм». Немцы называли аковцев [232] бандитами, но для поляка тождественность аковца герою подпольного сопротивления кажется очевидной, а приравнивание бандиту просто шокирует, как клевета.

230

Infoterroryzm, 1997. © Перевод. Язневич В.И., 2002

231

От assassin — наемный убийца, террорист (англ.).

232

Солдаты Армии Крайовой во времена Второй мировой войны.

2

В любом случае известно и понятно, что терроризм во все времена использует такие средства, которые имеются в распоряжении для нетеррористических целей. Поэтому в игре участвуют бомбы, взрывные устройства, управляемые на расстоянии (по радио) или с часовым механизмом (замедленного действия), а также террористы-фанатики, готовые умирать со своим взрывоопасным грузом, как японские камикадзе.

3

Страсть к разрушению и уничтожению может приводить к результатам, противоречащим изначальным причинам действий. Убийство врачей и медсестер, проводящих аборты, — это не единственный, но типичный пример внутренней противоречивости, когда убивают, чтобы противостоять убийству. Однако в этих заметках мне бы хотелось обратиться к возникающему только сейчас виду терроризма, который не является «силовым», так как его главным оружием считается информация в ее технологически уже существующем и поэтому доступном виде. Конкретное действие, поле для которого представляют сети связи, вирусы, «многоуровневые программы» компьютеров, сами компьютеры, а также различные виды информации, способно пользу от передачи и преобразования информации превратить в мусор или сделать их, образно говоря, заданием, которое можно выполнить: преобразование терапии или лекарства в смертельный яд, — такие возможности уже есть и, кроме того, возрастает темп их развития, который обусловлен расширением области и разнообразием информационных работ в общемировом масштабе. О так называемых «логических бомбах» (logic bomb)как кумулятивных информационных снарядах (а скорее о взрывообразно уничтожающих информацию) уже говорится, но об их применении — пока молчат. Хотя известно, что не только частные банки, но и FED, то есть Федеральный резервный банк (Federal Reserve)Соединенных Штатов Америки, не спешат с оглашением каких-либо потерь, связанных с операциями хакеров-террористов, проникающих через «защитные экраны» и «кодовые фильтры», потому что публикации о подобных грабежах могли бы слишком обеспокоить людей, по-прежнему верящих в банковских цепных псов.

4

Здесь уже границы между «просто терроризмом», мотивированным, поддерживаемым политически или идеологически, и терроризмом, который может приобретать характер «криптомилитаристский», «скрытно-военный» и межгосударственный, постепенно стираются. Сюда же относятся и различные пограничные области деятельности. Известно, что некоторые государства направляли большое количество качественно сделанных фальшивых бумажных денег в другие государства с намерением вызвать инфляцию и экономический кризис. Это, правда, происходило и происходит помимо сетей, но и это является особой формой информационной фальсификации, потому что банкнота тоже представляет собой определенный тип информации: обладающей покупательской силой.

5

К теме инфотерроризма относится и разрастающийся шпионаж. Здесь речь идет о взламывании и расшифровке кодов, которыми могут пользоваться третьи государства в своем общении: эту сферу тайной деятельности мы уже прошли, хорошим примером здесь является немецкая Enigma. Кроме того, у тайных работ появляются шансы на новые результаты, которые могут нанести предполагаемому противнику или хотя бы промышленному конкуренту самые большие потери. Если информационному управлению должен быть подвергнут коллектив изобретателей, не важно чего — ракет или автомобилей, или танков и оборудования к ним, самолетов или оружия, даже компьютеров, то негласное и тайное вторжение в его «информационный мозг», отвечающий за проектирование и производство, желательно вести по всем направлениям. Речь может идти или о перехвате рабочих данных, или об изменениях, которые трудно обнаружить и проверить таким образом, чтобы в готовом продукте сразу была видна «ахиллесова пята», место преднамеренного изменения, которое может дать о себе знать сразу или даже спустя годы по специально поданному сигналу.

Также возможен перехват информации, например, ее просматривание без внесения каких-либо фальсификаций, только чтобы узнать, чем (как) управляет вторая (третья) сторона. Кроме того, возможно такое изменение информации, что адресат получит ее фальсифицированной. Между прочим, сама эта концепция не нова. Еще в пятидесятые годы «Newsweek»опубликовал фотографию карты СССР с наложенной на нее красными линиями фотометрической сеткой; из фото было видно, что, пытаясь (довольно наивно) обмануть американцев, желая свести на нет их методы наводки на большие, стратегически важные советские объекты, географы СССР создали карту всей страны с передвинутыми по сравнению с реальными координатами, горными массивами и городами…