Искусственный интеллект

Если вы согласны с моим другом-исследователем, то, вероятно, к последней фразе вы относитесь скептично. Может, вы тот самый человек, который обожает смартфоны, или всю вашу жизнь вам говорили, что компьютеры – дорога в будущее? Я вас прекрасно понимаю, мне тоже так говорили. Однако я прошу вас вместе со мной прочитать еще несколько историй о людях, которые создают технологии, и затем критически поразмыслить и о технологиях, и об их создателях. Эта книга – не инструкция и не учебник, она представляет собой сборник историй, объединенных одной идеей. Я выбрала несколько авантюрных историй из области программирования, каждая из которых позволяет понять нечто фундаментальное о технологиях и современной технокультуре. Все эти проекты соединяются в цепочку аргументов против техношовинизма. Кроме того, я расскажу, как функционируют компьютерные технологии, и покажу, как они служат потребностям человека.

Первые четыре главы посвящены базовым принципам работы компьютеров и основам концепции программирования. И если вам уже понятно, как аппаратное оснащение и софт работают вместе, или если вы знаете, как писать код, то стоит быстро пробежаться по главам 1–3 и перейти сразу к главе 4, посвященной данным. Первые три главы важны, поскольку дают представление о том, что любой искусственный интеллект (ИИ) работает на основе одних и тех же элементов – кода, данных, двоичной логики и электрических импульсов. И важно понять, что в ИИ является реальным, а что воображаемым. Искусственные суперинтеллекты вроде тех, что мы видим в телешоу «В поле зрения» или «Звездный путь», – выдуманные. Да, конечно, их интересно представлять себе вживую, и они вдохновляют многих людей на размышления о способности роботов завоевать мир и тому подобном, но они не настоящие. Эта книга помогает прорваться к реальным математическим, когнитивным и вычислительным концептам, бытующим в современной научной дисциплине ИИ: представлению знаний и построению логических рассуждений, логике, машинному обучению, обработке естественных языков, поиску, планированию, механике и этике.

В рамках первого вычислительного приключения (глава 5) я анализирую причины, по которым после двух десятилетий реформирования образования школы до сих пор неспособны подготовить учеников к сдаче стандартизированных тестов. И это не вина учеников или учителей. Проблема гораздо масштабнее: компании, разрабатывающие государственные и локальные школьные тесты, также издают учебники, в которых есть ответы на тесты. Однако далеко не все школы могут себе позволить такие учебники.

Я обнаружила эту щекотливую ситуацию, пока писала код ИИ для своих журналистских расследований. Associated Press использует ботов для написания новостных заметок о бизнесе и спорте, так что роботы-репортеры – явление нередкое для последних лет. Моя программа не находилась непосредственно в роботе-репортере (в этом не было нужды, но я и не отрицаю такую возможность), она также не писала истории (по тем же причинам). Напротив, эта программа была принципиально новым способом применения старого доброго искусственного интеллекта, она помогала обнаружить интересные моменты. Одним из наиболее удивительных открытий, сделанных в ходе вычислительного расследования, стало то, что даже в нашем высокотехнологичном мире простейшее решение – книга в руках ребенка – оказалось весьма эффективным. Это заставило меня задуматься о том, почему мы тратим так много денег на внедрение технологий в классах, когда у нас уже есть дешевое и эффективное решение, которое неплохо работает.

В главе 6 нас ждет насыщенный ретроспективный обзор истории компьютеров. Особое внимание будет отдано Марвину Минскому – человеку, известному в качестве отца искусственного интеллекта, – и той огромной роли, которую контркультура 1960-х гг. сыграла в формировании мнений об интернете, существующем в 2017 г., в котором была написана эта книга. Я хочу показать, как мечты и цели определенных людей сформировали научное знание, культуру, деловую риторику и даже правовые рамки современных технологий посредством череды взвешенных решений. Например, причина, по которой интернет не поделен на государственные территории, заключается в том, что создатели этой технологии стремились построить новый мир за пределами государств – подобно тому, что они (безуспешно) пытались построить в коммунах.

Размышляя о технологиях, необходимо также помнить о другом краеугольном камне массовой культуры – о Голливуде. Большая часть представлений о технологиях сформирована благодаря фильмам, телепередачам и книгам. (Помните робота из моего детства?) Говоря об ИИ, нужно различать сильный и слабый искусственный интеллект. Сильный – это голливудская версия. Как раз благодаря такому ИИ оживает робот-дворецкий, который теоретически может обрести сознание и захватить государство, что, в свою очередь, может привести к появлению настоящего Арнольда Шварценеггера в качестве Терминатора и иным не слишком приятным последствиям. Большинство исследователей в области вычислительной техники читают научно-фантастическую литературу и смотрят кино, поэтому всегда рады обсудить гипотетические возможности сильного искусственного интеллекта.

В 1990-х гг. исследователи поставили крест на сильном ИИ [5] . Сегодня его называют «старым добрым искусственным интеллектом». Слабый ИИ – настоящий. Он опирается исключительно на вычислительные методы и не настолько увлекателен, как его более старый собрат, но удивительно хорошо справляется с разного рода задачами. Хотя, конечно, существует знаковая лингвистическая путаница. Машинное обучение (МО) – популярная ныне форма искусственного интеллекта – не является сильным ИИ. Это слабый ИИ, хотя название действительно может ввести в заблуждение. Даже для меня фраза «машинное обучение» ассоциируется с каким-то разумным существом внутри компьютера.

5

Dreyfus, What Computers Still Can’t Do.

Важное различие заключается в следующем: сильный ИИ – это то, чего мы желаем, на что надеемся и что представляем себе (без учета злобных роботических повелителей эпохи расцвета научной фантастики). Слабый ИИ – то, что у нас реально есть. Такова разница между мечтой и реальностью.

Затем, в главе 7, я представлю принцип работы МО и покажу, как создать такую структуру, которая способна предсказать, кто из пассажиров «Титаника» выжил бы в известном крушении. Понимание принципа работы МО позволит разобраться в примере из главы 8, где я окажусь за рулем автономной машины и расскажу, почему беспилотный школьный автобус обязательно попадет в аварию. Впервые в жизни я села в беспилотный автомобиль в 2007 г., тогда компьютерный «водитель» чуть не убил меня на стоянке фирмы «Боинг». С тех пор технологии прошли долгий путь, однако принципиально так и не стали работать так же хорошо, как человеческий мозг. Так что в ближайшее время киборгизированного будущего не наступит. Я также обращу внимание на то, как люди представляют технологии, заменяющие человека, и проанализирую, почему так сложно принять тот факт, что технологии не настолько эффективны, как мы того хотим.

Глава 9 станет плацдармом для размышлений о том, почему популярно не значит хорошо и почему это заблуждение – подкрепляемое машинным обучением – по-настоящему опасно. Главы 10 и 11 – очередные программистские приключения, где я создаю пицце-расчетную компанию на междугородном хакатон-автобусе (популярно, но не очень хорошо) и пытаюсь исправить финансовую систему США к президентским выборам 2016 г. (хорошо, но не слишком популярно). В обоих случаях я создаю софт, который работает не так, как изначально задумывалось, и его крах весьма поучителен.

С помощью этой книги я хочу воодушевить людей. Я хочу, чтобы они поняли принципы работы компьютера и перестали бояться программ. Мы все когда-то были в такой ситуации. Все чувствовали беспомощность и расстраивались перед, казалось бы, простой задачей, которая по факту становится невыполнимой из-за технологического интерфейса. Даже мои студенты, которых порой называют «цифровое поколение», иногда считают, что цифровой мир сбивает с толку, пугает и недостаточно проработан.

Полагаясь на технологии при решении сложных социальных задач, мы, соответственно, полностью рассчитываем на искусственную неразумность. Фактически именно компьютер, а не человек, и есть эта искусственная неразумность. Компьютеру все равно, что делает он или пользователь. Он всего лишь выполняет команды так хорошо, как только может, затем ждет следующую команду. У него нет сознания, нет души.

Человечество разумно. В то же время умные и доброжелательные люди действуют как техношовинисты просто потому, что не замечают негативных последствий принятия решений компьютерами либо они крайне привержены идее использования компьютеров повсеместно (и даже при выполнении задач, к которым компьютеры категорически не приспособлены).

Мне кажется, мы способны на большее. Как только мы поймем, как действительно работают компьютеры, мы сможем предъявлять более высокие требования к качеству технологий. Вместо того чтобы мириться с системами, которые только лишь обещают улучшения, а на самом деле все усложняют, мы можем требовать такие системы, которые в действительности все делают дешевле, быстрее и лучше. Мы можем научиться принимать качественно иные решения о следствиях развития технологий так, чтобы неосознанно не навредить сложным социальным системам. И мы можем почувствовать в себе силы сказать нет необязательным технологиям, чтобы начать жить более качественной жизнью и наслаждаться тем, как технологии обогащают наш мир.

2 Hello, world!

Чтобы понять, что компьютеры не могут, прежде необходимо разобраться, как они работают и с какими задачами справляются. Для этого напишем простую компьютерную программу. Начиная изучать новый язык программирования, специалист обычно пишет программу «Hello, world!». Не важно, изучаете ли вы программирование в учебном лагере, в Стэнфорде, в университете или онлайн, – вы, скорее всего, тоже ее напишете. «Hello, world!» – это отсылка к первой программе в легендарной книге Брайана Кернигана и Дениса Ричи «Язык программирования С» [6] (The C Programming Language), где читателю предлагается написать программу (с помощью языка С, разумеется), выводящую на экран эту фразу. Керниган и Ричи работали в лаборатории Bell – исследовательском центре, статус которого в индустрии сравним с Hershey в мире шоколада (AT&T Bell Labs были очень добры, пригласив меня на несколько лет на работу). Именно здесь зарождалось множество инноваций, в том числе лазер, микроволновка и Unix (Ричи помогал и в разработке Unix, и в разработке языка С). Язык назвали С потому, что до этого команда лаборатории уже изобрела язык под названием В. Все еще популярный С++ и его двоюродный брат C# – потомки языка С.

6

Керниган Б. Ритчи Д. Язык программирования С. – М.: Вильямс, 2009.