Часть четвёртая

Алекс всё ещё смотрел на меня с любопытством. Видать, он от меня чего-то ждал. Блин, про что же писал там этот Азимов?

Барбара тоже не понимала, что происходит, поэтому она спросила:

– О чём речь вообще?

– О законах робототехники, - коротко ответил Алекс, не сводя взгляда с меня.

– О чём, о чём?

Точно, я же о них и думала! А дальше произошло что-то невообразимое - мысли сами стали складываться в цельную картину. Законы робототехники, помощь человечеству, инстинкты и их замена аналогами для компьютера... И тут картинка полностью собралась, и я поняла, о чём говорил Алекс. И, судя по всему, это внезапное понимание отразилось на выражении моего лица, потому что кэп наклонился ко мне и почти шёпотом сказал:

– То-то же.

– Так о чём речь?
– повторила вопрос Барбара.

– Объяснишь?
– обратился ко мне Алекс.

– Ну, попробую, - ответила я.
– Видишь ли, Барб, проблема роботов и искусственного интеллекта уже давно будоражит умы людей. Некоторые писатели-фантасты пытались предугадать ход развития событий и возможные проблемы, которые появятся в будущем. Одним из таких писателей был Айзек Азимов. Он и сформулировал те самые знаменитые законы робототехники. Сводились они к следующим формулировкам: робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред; робот должен повиноваться всем приказам, которые отдаёт человек, кроме тех случаев, когда эти приказы противоречат первому закону; робот должен заботиться о своей безопасности настолько, насколько это не противоречит первому или второму законам. Не берусь утверждать точность формулировки, но суть именно такова. У Азимова роботы изначально не обладают ИИ, но законы соблюдают. Таким образом, писатель осмысленно или случайно описал ситуацию, которая могла привести к эволюционному развитию от просто смышлёных машин до настоящего ИИ. Сами законы робототехники выполняют роль низкоуровневых концепций. Проще говоря, эти законы заменяют роботам инстинкты. Цель существования роботов Азимова, как несложно догадаться - помощь людям. И в самих законах нет ничего предосудительного, потому что на самом деле, они являются просто этическими принципами сосуществования людей в обществе, абстрагированных на роботов. Со слов всё того же Азимова если кто-то следуетЗаконам, то он или робот, или очень хороший человек. Но самим же Азимовым в его произведениях не раз и не два ставились под сомнения действия роботов, руководствующихся этими законами.

– Почему?
– спросила Барбара.

– Потому что сравнение "или робот, или очень хороший человек" не ради красного словца было сделано. Человеку самому не мешало бы приподнять своё воспитание и моральный облик, а также мозгов поднабраться, прежде чем создавать машины себе в помощь и пытаться заставить их быть высокоморальными, если человек и сам ещё таких высот морали не достиг. Несколько позже, всё тем же Азимовым и ещё несколькими людьми, читавшими его произведения с тремя первоначальными законами, отдельно друг от друга был выведен так называемый нулевой закон робототехники. Он гласит: робот не может нанести вред человечеству или своим бездействием допустить, чтобы человечеству был нанесён вред. Но суть проблемы будет значительно проще понять, если знать несколько другую формулировку нулевого закона.

– Я вся внимание.

– Робот не может причинить вреда человеку, если только он не докажет, что в конечном итоге это будет полезно для всего человечества, - ответил за меня Алекс.
– Прикол в том, что нулевой закон противоречит первому, и в зависимости от ситуации, робот может прийти к очень не нужным для человека выводам. И что главное - начать действовать на основании этих выводов.

– То есть, вы хотите сказать, что создание ИИ в конечном итоге может мне навредить?

– Нет, Барб, мы хотим сказать, что, не имея внятного представления о конечной цели существования твоего ИИ, его создавать не стоит даже пытаться. Для большинства целей, даже тех, которые ты себе представить не можешь, достаточно будет сложных анализирующих программ, которые будут способны помочь тебе разобраться в решении задачи. А вот чтобы ИИ городить, нужно точно знать для чего, и предусмотреть, как бы твоё творение не тех выводов не наделало. Проще говоря, даже при текущем моральном облике общества лучше этого вообще не делать. Про общество времён Азимова я вообще молчу, слава богу те времена прошли.

– Ну, хорошо, а если я смогу придумать нормальную цель существования для своего ИИ...

– Нормальную цель? Это какую? Давай подумаем. Благородную цель помощи людям мы уже рассмотрели. Была в своё время ещё одна серия произведений на подобную тематику. Про робота-полицейского. У него тоже были низкоуровневые конструкции, основанные на цели выполнять работу полицейского идеально, назывались они директивами. Директивы эти гласили: служить обществу, защищать невиновных, соблюдать закон. Там проблема тоже начиналась в том месте, где робот пересекался с отдельными представителями общества, которые не были ни стопроцентными нарушителями закона, ни стопроцентными невиновными. Плюс в описываемом обществе, которое было абстрактным представлением общества реального для того времени, когда эту историю придумали, законы писали, если коротко, мудаки, которые и сами не прочь эти самые законы нарушать в угоду своих алчных целей. Изюминку истории прибавляло существование четвёртой директивы, которая, по сути, запрещала применять ремесло полицейского к узкому кругу конкретных личностей. Разумеется, именно тех, кто законов нарушал больше, чем весь город, в котором происходило действие, вместе взятый. Другой изюминкой истории была изначально человеческое начало робота - он был сделан на основе мозга человека, и именно человеческие черты позволяли ему как впутываться, так и выходить из описанных ситуаций.

– А если... а если всё-таки не наделять ИИ конечной целью, но придумать низкоуровневые концепции?

– Например, какие?

– Не знаю.

– А что тогда будет заставлять твой ИИ думать самостоятельно, если ты не знаешь, как заставить его мозги шевелиться? Ведь под концепцией ИИ подразумевается, прежде всего, самостоятельность, потом самообучаемость, а только потом выполнение каких-то задач.

– Ну, хорошо, например, аналог инстинктов.

– Тогда, детка, может получиться Скайнет.

– Кто?

– ИИ, который придёт к выводу, что люди лично ему мешают, и от них надо избавиться. Одним из таких в художественных историях прошлого был Скайнет. Его создавали как раз без заморочек насчёт целей его существования. Вот он сам этот вопрос для себя и решил. Так что без целей никуда. Либо ты их придумаешь, либо ИИ сам их себе придумает.

– Как-то всё это сложно... а нельзя ли на чём-нибудь потренироваться? Ну, чтобы формировать концепцию ИИ поэтапно, учась на своих ошибках, но не доводя до глобальных, катастрофических перекосов.

– Можно, - сказала я.
– Роди ребёнка, воспитай его...

– Да ну! При чём тут ребёнок к...
– и тут она осеклась.

– К чему?
– улыбнулся Алекс.
– К созданию и формированию интеллекта? Ну ты, мать, даёшь!

– Я ещё не мать.

– И не собираешься ею стать?

Барбара промолчала. Алекс же продолжил:

– Ребёнка любого разумного существа можно расценивать как пример в вопросах создания ИИ. Потому что ребёнок не рождается ни со знаниями, ни с навыками. И его тоже нужно обучать. И воспитывать. Принципиальная разница заключается в том, что ребёнок изначально имеет аппаратную архитектуру, цель существования, низкоуровневые концепции и базовые программы для создания интеллекта. Под базовыми программами имеется ввиду самообучение и саморазвитие организма, в том числе и мозга. Причём аппаратная архитектура ещё и саморазвивающаяся, потому что структура мозга и его функционал, а также размеры, соответствуют возрасту организма в целом. А ещё под базовыми программами понимается управление остальным организмом, потому что сердце бьётся, лёгкие создают дыхание, прочие внутренние органы работают согласно предназначения. А также ребёнок имеет изначальные программы взаимодействия с родителями. С одной стороны всё это значительно упрощает понимание и подход к созданию и воспитанию интеллекта с нужными характеристиками и навыками в контексте семьи и общества. В конце концов, кое-что в воспитании и формировании личности твоего ребёнка для тебя понятно на интуитивном уровне. С другой стороны, воспитание интеллекта у ребёнка осложненно его изначально готовыми решениями от природы. Например, чтобы ребёнок не стал животным в воспитанном обществе, нужно уделить внимание подавлению его чисто животных особенностей и черт до уровня, приемлемого для сосуществования с другими в обществе.

– Это каких таких животных черт?
– спросила Барбара.

– К примеру, эгоизм. Это чисто животная черта, первая производная от инстинкта выживания. Как мы уже обсуждали ранее, человечество измеряется обществом, поделенным на индивиды, а не самими индивидами. Всегда и везде человечество выживало только вместе. Если каждый в обществе станет эгоистом, то такое общество обреченно, ибо быть эгоистами могут только хищные виды животных, и то с оговорками, так как при стопроцентном эгоизме и любые хищники не протянут более пары поколений. А разумные существа - в большинстве своём не хищники даже. И на то есть причины. Общество воспитанных разумных существ не приемлет чрезмерного эгоизма внутри себя, особенно при контакте с другими видами разумных существ. Но в ребёнка изначально не заложено никаких пределов этой переменной, ибо природой всегда предусмотрен самый худший вариант - твой ребёнок может появиться на свет в условиях не воспитанного общества, а очень даже экстремальных. И тогда ему и многим поколениям его потомков эгоизм очень даже пригодится. Пока не построится новое общество, либо не восстановится старое. Из всего этого следует, что эгоизм будет проявляться в детях всегда или пока мы не отделаемся от своих животных оболочек и не эволюционируем, скажем, в энергетические субстанции. А задача регулирования уровня эгоизма до приемлемого обществом уровня у подрастающих особей нашего вида лежит всегда на воспитателях этих подрастающих особей. То есть, для начала - на родителях. Каждый индивид с ненормальным уровнем эгоизма для текущего состояния общества либо будет стягивать общество будущего вниз к животному уровню, либо должен быть изолирован и воспитан до подобающего уровня. Ладно, разобрали пример с качествами интеллекта природного, вернёмся к искусственному. В контексте ИИ те же задачи выполнить сложнее с точки зрения изначального аппаратного и первичного программного обеспечения, а также понимания и взаимодействия ИИ с создателями, но значительно проще в вопросах укрощения строптивых врождённых концепций и черт, типа эгоизма. Просто потому, что у ИИ их нет. А наделить его таковыми, во-первых, тот ещё геморрой, а во-вторых, чревато непредсказуемыми последствиями.

– Подожди, то есть ты серьёзно предлагаешь в качестве подопытного кролика при создании искусственного интеллекта использовать детей?

– Почему кролика, почему использовать? Ты ещё препарировать не предложила. Нет, конечно, ни в коем случае! Я предлагаю наблюдать за формированием личности и интеллекта у детей и делать выводы. Ребёнок всё равно растёт, если это твой ребёнок - то и расти он будет рядом с тобой. И формироваться его личность будет на твоих глазах. Наблюдай, делай выводы, проводи аналогии. Корректируй его личность и способности, и делай ещё больше выводов. Вполне возможно, что именно ребёнок натолкнёт тебя на гениальное решение при создании концепции полноценного ИИ.

– Знать бы ещё, как его личность корректировать, чтобы получить то, что тебе надо...

– Кого? ИИ?

– Нет, для начала своего ребёнка.

– Вот, - улыбнулся Алекс.
– И тут мы с тобой пришли к самому логичному из всех возможных выводов. Зачем ты берёшься создавать интеллект искусственный, если не до конца понимаешь, как формировать интеллект естественный? Ведь, по сути, и то и то - твоё творение. Хочешь получить в помощь математика - вырасти математика для начала из ребёнка, хочешь кого-то другого - не вопрос, всё в твоих руках.