Последнее изобретение человечества
Шрифт:
Вот простой пример. Любите университетский баскетбол? Определите, какая из этих заметок написана спортивным журналистом — человеком?
Опрос среди тренеров по поводу того, кто может занять первое место, показал, что Ohio State (17) и Kansas (14) на двоих получают ни много ни мало тридцать один голос. Последние изменения в верхней части пула стали неизбежны, когда Duke в субботу вечером обидел противник из Конференции Атлантического побережья — Virginia Tech. Buckeyes (27:2), пробиваясь обратно на вершину, достаточно легко нанесли поражение соперникам из десятки сильнейших — Illinois и Indiana. Ohio State начал со счета 24:0 и четыре недели в начале сезона был лучшим, пока не опустился на третье место. А в тройке сильнейших он находится уже пятнадцатую неделю подряд. Kansas (27:2) по-прежнему второй и по результатам опроса отстает от Ohio State всего на четыре пункта.
Ohio State возвращает себе первое место
Ну как, догадались? Конечно, ни один из авторов не создал шедевр, но лишь один из них — живой человек. Это автор текста А, опубликованного на сайте ESPN. Текст Б написан автоматической издательской платформой, созданной Робби Алленом из фирмы Automated Insight. За один год его компания со штаб-квартирой в Дареме (штат Северная Каролина) сформировала 100 ООО автоматических статей на спортивные темы и разместила их на сотнях сайтов, посвященных местным командам. Зачем миру нужны роботы, пишущие спортивные статьи? Аллен рассказал мне, что о многих командах вообще никто не пишет, и их болельщики остаются в полной неизвестности. Кроме того, написанные ИИ статьи могут появляться на сайте команды и подхватываться другими сайтами всего через несколько минут после окончания игры. Человек не в состоянии работать так быстро. Аллен — бывший старший инженер Cisco Systems — не захотел назвать мне «секретный источник» своей поразительной архитектуры. Но скоро, сказал он, Automated Insights начнет выдавать статьи на темы финансов, погоды, недвижимости и местных новостей. Его «голодные» серверы нуждаются лишь в слабоструктурированных данных.
Если вы уже начали знакомиться с результатами вычислительной нейробиологии, вам трудно (мне по крайней мере точно трудно) представить значительный прогресс в области архитектур УЧИ, достигнутый исключительно на базе когни- тивистики. Полное понимание принципов, на базе которых функционирует мозг на каждом уровне, представляется мне более надежным и исчерпывающим способом создания разумной машины, нежели любые усилия, прилагаемые без такого понимания. Вы согласны со мной? Ученым не понадобится анализировать работу каждого из ста миллиардов нейронов мозга, чтобы разобраться в их функциях и смоделировать их, поскольку структура мозга очень избыточна. Кроме того, не потребуется, возможно, моделировать весь объем мозга, включая те области, которые контролируют автономные функции, такие как дыхание, сердцебиение, реакцию «дерись или беги» и сон. С другой стороны, может стать очевидным, что интеллект должен обитать в теле, которое он контролирует, и что тело это должно существовать в сложной среде. Споры о необходимости воплощения на этом не разрешатся. Но подумайте о таких концепциях, как яркий, сладкий, твердый и острый. Как может ИИ узнать, что означают эти ощущения, и построить на них концепции, если у него не будет тела? Не возникнет ли непреодолимое препятствие для превращения машины в искусственный интеллект человеческого уровня, если у нее не будет чувств?
На этот вопрос Грейнджер отвечает: «Неужели Хелен Келлер [32] была менее человеком, чем вы? Или парализованный человек? Неужели мы не можем вообразить себе интеллект с совершенно иными способностями, со зрением, датчиками прикосновения и микрофонами для слуха? Конечно, у него будут несколько иные представления о ярком, сладком, твердом, остром, — но очень вероятно, что представления об этих концепциях у многих людей с различными вкусовыми рецепторами, возможно, с нарушениями здоровья, принадлежащих к разным культурам и живущих в разных условиях, и сегодня сильно различаются».
32
Хелен Адаме Келлер (1880–1968) — американская писательница, преподаватель, общественный деятель. В возрасте 19 месяцев перенесла болезнь, в результате которой полностью потеряла слух и зрение. С 7 лет Хелен занималась под руководством специалиста Энн Салливан, получила среднее образование и окончила колледж. Написала больше десяти книг, была известным филантропом и активистом. С 1980 г. в США отмечается День Хелен Келлер. — Прим. ред.
Наконец, вполне возможно, что для рождения интеллекта ученым необходимо смоделировать еще и эмоциональный орган. В принятии
решений эмоции зачастую играют более серьезную роль, чем разум; то, кто мы есть, и то, как мы думаем, в значительной степени определяется гормонами, которые возбуждают и успокаивают нас. Если мы и правда хотим смоделировать человеческий интеллект, разве эндокринная система не должна быть частью архитектуры? Не исключено, что интеллект требует полноценных человеческих ощущений. Первичные ощущения, или субъективное качество обитания в теле и жизни в состоянии постоянной сенсорной обратной связи, могут оказаться необходимыми для интеллекта человеческого уровня. Несмотря на аргументы Грейнджера, исследования показали, что люди, парализованные в результате травмы, испытывают эмоциональное омертвение. Можно ли создать эмоциональную машину без тела, а если нет, то неужели такую важную часть человеческого интеллекта никогда не удастся реализовать?Разумеется — и я буду говорить об этом в последних главах, — мои опасения сводятся к тому, что на пути создания ИИ с интеллектом, подобным человеческому, исследователи создадут вместо этого нечто чуждое, сложное и неуправляемое
ГЛАВА 14
Конец эры человечества?
Рассуждение очень простое. Мы начинаем с завода, самолета, биологической лаборатории или другой среды со множеством компонентов… Затем нам нужно два или более отказа компонентов, которые взаимодействуют друг с другом каким-то неожиданным образом… Эта тенденция к взаимодействию — характеристика системы, а не часть оператора; назовем это «интерактивной сложностью» системы.
Я предсказываю, что всего через несколько лет нас ждет серьезная катастрофа, вызванная автономной компьютерной системой, самостоятельно принимающей решения.
Мы уже рассмотрели проблемы финансирования и сложности программного обеспечения, чтобы определить, могут ли они
стать препятствиями для интеллектуального взрыва, и выяснили, что ни то ни другое, судя по всему, не помешает продвижению исследователей к созданию УЧИ и ИСИ. Если специалисты по информатике не смогут этого сделать, то они будут лихорадочно пытаться создать хоть что-нибудь мощное примерно в то же время, когда вычислительные нейробиологи доберутся до УЧИ. А скорее всего это будет гибрид технологий, основанный одновременно на принципах когнитивной психологии и нейробиологии.
Если финансирование и сложность программ вроде бы не являются непреодолимым барьером для создания УЧИ, то многое из того, что мы обсуждали, представляет собой серьезные препятствия к созданию УЧИ, думающего по-человечески. Ни один из тех разработчиков ИИ, с кем мне пришлось разговаривать, не планирует строить системы исключительно на базе того, что я в главе 5 окрестил «обычным» программированием. Мы уже говорили, что в обычном, построенном на логике программировании человек пишет каждую строку кода, а весь процесс от начала до конца теоретически доступен и прозрачен для контроля. Это означает, что «безопасность» или «дружественность» программ можно доказать математически. Вместо этого все они собираются использовать обычное программирование и инструменты в виде черных ящиков, вроде генетических алгоритмов и нейронных сетей. Добавьте к этому сложность когнитивных архитектур и получите непознаваемость, которая для УЧИ-систем будет не случайной, а фундаментальной. Ученые получат разумные, но чуждые нам системы.
Известный технарь-предприниматель, ученый и коллега Стива Джобса по Apple Стив Юрветсон рассмотрел вопрос о том, как можно интегрировать «разработанные» и «развившиеся» системы. Он предложил хорошую формулировку для парадокса непознаваемости:
Таким образом, если мы развиваем сложную систему, то получаем черный ящик с интерфейсами. Мы не можем с легкостью приложить свою конструкторскую интуицию, чтобы улучшить его внутреннее устройство… Если мы искусственно развиваем умный ИИ, это будет чуждый нам интеллект, определяемый своими сенсорными интерфейсами, и понимание его внутреннего устройства может потребовать не меньше усилий, чем мы сейчас тратим на объяснение человеческого мозга. Учитывая, что компьютерные программы могут эволюционировать намного быстрее, чем размножаются биологические существа, маловероятно, что мы станем тратить время на обратное проектирование этих промежуточных точек, тем более что мы почти ничего не смогли бы сделать с этим знанием. Мы пустим процесс улучшения на самотек.
Следует отметить, что Юрветсон отвечает на вопрос: «Насколько сложными будут развившиеся в процессе эволюции системы или подсистемы?» Его ответ: такими сложными, что детальное понимание механизмов их работы потребовало бы инженерного подвига не меньшего, чем обратное проектирование человеческого мозга. Это означает, что вместо человекоподобного сверхинтеллекта, или ИСИ, развившиеся системы или подсистемы наверняка будут представлять собой интеллект, в чьем «мозге» так же сложно разобраться, как и в нашем — чуждому интеллекту. Этот чуждый мозг будет эволюционировать и улучшать себя на компьютерных, а не на биологических скоростях.