Философские проблемы развития искусственного интеллекта
Шрифт:
Еще одним опасным фактором, который может усилить приближение планетарной катастрофы, исследователи считают ослабление генетического отбора. Если сравнить, какое количество детей доживали до взрослого возраста в начале ХХ века и в начале ХХI, получится неутешительная для естественного отбора, хотя и гуманная картина. В Англии начала прошлого века в семьях с тремя-пятью детьми до 28-летнего возраста в среднем доживал один ребенок. А что происходит сейчас? Современная медицина спасает многих, даже рождающихся с тяжелыми наследственными заболеваниями. Природе не позволяют «включить» естественный отбор, и это гуманно, но сам человек считает себя в праве изменять природу так, как ему удобно. Появляются генномодифицированные продукты. Химическое воздействие на мир возрастает, некоторые виды животных и рыб существуют только в искусственной среде обитания. Овощи и фрукты растут на земле, подвергнувшейся неоднократным химическим атакам пестицидов. Экологические катастрофы, отходы производства меняют климат нашей планеты. Наконец, подходят к концу запасы пресной воды. Кажется, что в таких условиях в будущем человеку трудно будет обойтись без вмешательства генной инженерии, которая вплотную займется усовершенствованием и приспособлением его к новой окружающей среде. А разрешение такого вмешательства сразу разворачивает нас лицом к возможному созданию биороботов и «людей-машин». Придется устанавливать, где в них начинается и заканчивается человеческое. Современная
Совсем недавно мы впервые «познакомились» с маленьким симпатичный летающим аппаратом, который называется «квадрокоптер». И не успели мы к нему привыкнуть, как его запретили к использованию. Ведь эта маленькая «игрушка» способна нанести увечье или даже убить человека. А кто будет виноват? Особенно, если это случайность. Купить квадрокоптер с камерой, «недорогой и хороший», через Интернет возможно и сейчас. Вероятно, нетрудно найти информацию по созданию к нему небольшой пушки. Вопросы о праве, морали и этике в этом случае необходимо не только поднимать, но и дорегулировать, так как внутри мира машин нашей человеческой этики просто не существует. Возможно, следует вспомнить законы роботехники, усовершенствовать их и внедрять в программу создаваемого «искусственного интеллекта». Правда, никто не сможет гарантировать нам, что с помощью новых технологий не будет создан «суперинтеллект», способный обойти все внедренные запреты.
Страх человека перед таким развитием событий можно считать в какой-то мере экзистенциальным, так как мы и машины слишком разные. Но даже, если мы напишем, внедрим и будем всячески контролировать кодекс законов искусственного интеллекта, останется еще один важный вопрос, который не оставит нас как человечество в покое. Если мы доверимся «искусственному интеллекту», полностью «переложим» на него свои дела и обязанности, с чем мы сами останемся? Как продолжим тренировать свои тела и умы?
Уже сейчас есть поколения интернет-зависимых людей, у которых происходят изменения в мозге, сравнимые с изменениями алкоголиков и наркозависимых. Можно приводить много причин, почему современному человеку общение в сети больше нравится, чем живое. Например, очень многие люди в виртуальной коммуникации воплощают свои надежды и мечты, не решаясь реализовать их в реальности. Удовольствие от общения переносится в интернет, где появляются новые виртуальные друзья и целые сообщества. Интернет-коммуникация помогает удовлетворить социальные потребности и одновременно избегать трудностей, которые могли бы возникнуть от реального контакта. Кстати, такой контакт постепенно становится и не нужным, иногда даже опасным. И реальность для таких людей отмирает. Современные «затворники» не выходят из дома вообще или выходят только ночью. В Японии их стало так много, что они получили свое название – «хикикомори». В некоторых городах Японии их число достигло 10 % и более. Ответы на вопрос, почему эти люди не выходят из дома, самые разные. От «ненавижу других», до «мне и так хорошо». Исследователь темы Хироюки Ота пишет о хикикомори: «Они не ищут работы на протяжении многих лет, им не удается установить отношения с другими людьми, обзавестись семьей» [7]. Действительно, хикикомори не только не общаются с чужими людьми на улице, но зачастую не разговаривают даже с родителями. Молодой японец 27 лет заперся на кухне и перестал пускать туда родителей, те построили себе новую кухню и продолжают его кормить. Многие специалисты считают, что таких людей следует лечить. Примерно так же, как и интернет-зависимых, тех, кто полностью перешел в виртуальный мир и остался там.
В компьютерном поле игры, которое так притягивает зависимых от него людей, тоже есть смоделированные «вызовы» и трудности, но они отличаются от реальных. Они также могут требовать ловкости, знания, умения – тех качеств, которых пока еще ожидает от человека реальная жизнь. Но человек, сидящий за компьютером, не рискует своей жизнью, а только, возможно, здоровьем и деньгами, если он играет в компьютерные игры профессионально. А в реальном мире есть опасность быть отвергнутым или умереть. С дальнейшим техническим совершенствованием компьютерных игр виртуальный мир становится разнообразнее и в какой-то мере удивительнее реального. В ММОРПГ – массовой многопользовательской ролевой игре – игроки встречаются с различными персонажами, иногда делают их друзьями или врагами и проживают такие события, которые трудно себе представить в реальности. С другой стороны, многие из тех качеств, которыми участники «блещут» на разных уровнях сложности в игре, применить в жизненной практике невозможно. Однако развивает ли наш разум поле игры? Становимся ли мы лучше, играя в компьютерные игры?
Немецкий философ, основатель философской герменевтики Х.-Г. Гадамер писал об игре и беседе как об аналогиях понимания. Так как именно в игре участники сосредотачиваются на предмете игры и забывают о себе. Игра не получается, если игрок «тянет на себя одеяло», переигрывает или не пасует мяч другим игрокам. Только, если большинство участников сосредоточено на общем предмете игры или общей теме беседы, возможно наилучшее творческое понимание [6].
В увлечении виртуальной игрой человек любит, ненавидит, дружит и враждует с искусственными персонажами. Они могут собираться в группы, как в жизни, дружить с кем-то и против кого-то, коллективно исключить мешающего, «нелюбимого» игрока. Социальная жизнь перемещается таким образом в виртуальный мир. Фактически, с усложнением игры возрастает и мощь «искусственного интеллекта» и его влияние на человека. Похоже, мы снова имеем дело с двумя «встречными» тенденциями: ростом и усложнением «искусственного интеллекта» и «ослаблением» реальной активности человека. А ведь исследования показывают, что люди, используя искусственные возможности, еще не научились использовать полностью свой собственный мозг. Т.В. Черниговская начинает беседу с молодыми учеными, которые приходят к ней «заниматься мозгом»: «В голове у нас сложнейшая нейронная сеть, которую невозможно себе представить. Если вытянуть в одну линию все нейроны, которые находятся в голове – не у Энштейна, а у обычного человека, – получится страшная цифра 2,8 млн. км» [2, 9]. Когда мы перекладываем на машину свои трудности и таким образом облегчаем себе жизнь, мы забываем, что эволюционное развитие человечества шло как раз через трудности. И именно препятствия приводили к качественным эволюционным скачкам.
Что же нам делать? Остался ли одним из возможных путей для нашего развития путь совершенствования собственных возможностей, использования собственных ресурсов? Ведь, хотя обученная машина и переигрывает шахматиста или игрока в покер, обучение
машин происходит принципиально иначе, чем обучение людей. Элисон Гопник – профессор психологии и философии в Калифорнийском университете сравнивает обучение детей и обучение искусственного интеллекта [4]. Она выделяет два способа обучения: «восходящий» и «нисходящий» по аналогии эмпирического и рационального методов в истории философии. В первом случае обучение машины начинается похоже на чувственное восприятия мира человеком: «фотоны и колебания воздуха, которые воспринимаем все мы» [4, с. 61]. Информация попадает в компьютер в виде точек цифрового изображения или аудиозаписи звука. Затем из этих данных компьютер выделяет ряд элементов, которые можно обобщить и идентифицировать как единый объект окружающего мира. Этот восходящий подход связан с идеями английского эмпиризма и И.П. Павлова. Ученые придумали способ, позволяющий компьютерам находить закономерности в таких данных по принципу работы нейронов. Идея нейронной сети переживает изменения в настоящее время и успешно «работает» на коммерческие цели. По этому методу устроены Google и Facebook.Элисон Гопник считает, что с увеличением объема перерабатываемой информации, с лучшими вычислительными возможностями «нейросетевые системы могут обучаться гораздо более эффективно, чем мы могли когда-то предполагать» [4, с. 61]. То есть, восходящий метод развивается.
Другой, «нисходящий», метод знаком нам через рационалистический метод познания Рене Декарта. И даже еще ранее у Платона мы видим эту модель познания как «припоминания» Платона. В диалоге «Менон» ученик Сократа уже знает решение математической задачи, и философ побуждает его вспомнить. В рационалистической системе Декарта знание также присуще человеку с рождения. Этот метод также не стоит на месте в своем развитии. «В 2000 году этот принцип пережил второе рождение в виде вероятностного или байесовского моделирования» [4, с. 62]. В случае обучения машины по этому методу разработчики формируют и закладывают в нее абстрактные гипотезы о мире, и машина использует то, что в нее заложено, чтобы построить прогнозы, как будут выглядеть данные, если верны эти выдвинутые гипотезы. Системы пересматриваются в зависимости от наблюдаемого результата.
Гопник считает оба метода несовершенными. «Восходящий подход» в машинном обучении позволяет выявлять значимые признаки для решения поставленных задач определенного типа. Для этого нейронная сеть должна пройти процесс самообучения. Она изучает миллионы сообщений из огромных баз данных. И тут машины сталкиваются с трудностями, с которыми не сталкиваются при обучении люди. Так в «восходящем методе» компьютеру для различения усатых и мохнатых лиц требуется миллионы упорядоченных объектов. То есть для формирования «поля сравнения» в компьютер должны быть заложены миллионы изображений усатых людей и миллионы изображений мохнатых животных, чтобы компьютер начал систематически различать их. «После интенсивного обучения компьютер наконец может узнать кошку в изображении, которое он никогда не видел. Однако то, как он это делает, совершенно не похоже на процесс обобщения у человека» [4, с. 62]. Некоторые изображения не будут отмечены компьютером как кошки, а некоторые пятна, наоборот, будут таковыми считаться. Если мы сравним на этом этапе обучения способность и быстроту схватывания информации компьютером с возможностями ребенка, то оказывается, что малышу достаточно всего нескольких примеров, чтобы различить «усатого дядю» и животное.
В «нисходящем» подходе вместо тысячи примеров для выявления закономерностей ученые пользуются общей схемой действий, которая теоретически может привести к достижению определенного результата. Метод, названный по имени статистика и философа ХVIII века Томаса Байеса, объединяет данную модель с теорией вероятности, используя так называемый «байесовский вывод». «Вероятностная порождающая модель показывает, насколько вероятно то, что вы увидите какую-то структуру в данных, если верна гипотеза» [4, с. 63]. Этот метод подходит для того, чтобы научить машину учиться так, как это делают люди. Разработчики закладывают в машину определенный принцип отбора. Но для формулировки такого принципа требуется огромная предварительная работа.
К тому же в пользу человека и его способностей говорит и то, что оба описанные метода работают для узких и точно сформулированных задач. Это значит, что машина, обыгравшая Гарри Каспарова, не сыграет в покер. Элисон Гопник замечает: «С восходящим алгоритмом компьютеру не нужно понимать что-нибудь про кошек, чтобы начать учиться, но ему нужно очень большое количество данных» [4, с. 64]. «Нисходящий метод» помогает быстро обучиться на малом количестве примеров и делать более широкие обобщения. Однако при использовании этого метода требуется много предварительной работы, чтобы сформулировать правильный набор гипотез. А ребенок творит легко. Специалисты по психологии развития детей убедились, что «дети комбинируют лучшее от каждого подхода и затем продвигаются гораздо дальше» [4, с. 64]. Если добавить к этому уверенность в том, что людям свойственны творческие прорывы, и они могут рассуждать на темы, выходящие далеко за границы их собственного опыта, то в споре «человек – машина: кто кого?» появляется вполне оптимистичный перевес в сторону человека. Недаром Энштейн сказал: «Фантазия – это единственное наше оружие в борьбе с реальностью» [5]. Великий мыслитель имел в виду творческую способность человека совершать экскурс или «прыжок» в неизведанное. В конце концов, это люди изобрели все те машины, которых теперь сами и опасаются. По мнению философов ХХ века Хайдеггера и Гадамера, такая направленность в будущее или в неведомое возможна благодаря особому характеру понимания. Человек является «брошенной проекцией»: как спроецированное, его понимание внутренне связано с будущим, откуда и разворачиваются новые возможности. Понимание также является обусловленным наследием прошлого, которое человек, в силу своей конечности, воспринимает как традицию и в которой постоянно находится. Так, Хайдеггер доказывает, что любая интерпретация (даже научная) зависит от конкретной исторической ситуации интерпретатора. Не существует интерпретации без предрассудков, так как интерпретатор не может освободить себя от своей собственной фактичности. Он онтологически обусловлен всегда уже имеющейся временной ситуации как горизонтом, внутри которого все то, что он понимает, имеет для него первоначальное значение. Каждый шаг понимания является шагом, основывающимся на бесконечности «пред-данной» интерпретатору исторической традиции. Хайдеггер говорит о понимании как об «опережающем наброске». Этот набросок, однако, может быть развернут, что и становится одной из бесконечного количества интерпретаций [6, с. 317]. Как раз в таком творческом моменте и проявляется человеческая уникальность. «Историческое бытие никогда не исчерпывается знанием себя. Всякое знание-себя вырастает из исторической пред-данности» [6, с. 357]. Равенство всех возможных интерпретаций обеспечивается своеобразием каждой из них. И одновременно ролью интерпретатора как творца, обладающего уникальным взглядом именно из своей исторической ситуации.
Вместе с прояснением роли исторической традиции и историчности интерпретатора центр дискуссии был перенесен с техники понимания, которая ставит правильное понимание в зависимость от метода, к пониманию как «событию», которое по самой своей природе является одновременно эпизодичным и транссубъективным. Оно эпизодично в том смысле, что каждый отдельный акт понимания является моментом в жизни самой традиции, которой «подчиняются» и интерпретатор, и текст. И оно транссубъективно, так как связано с бесконечностью предшествующей данной ситуации истории.