Колдуш

Использование эволюционных подходов привело к тому, что темп развития болталки сильно возрос. Если в начале на каждый этап, на каждое улучшение требовались сотни часов Странника, то теперь нужны были только десятки часов напряжённой работы компьютера, чтобы имплементировать не только компилятор, но и всю С++ в болталку. Программа стала на маленький шажочек более самостоятельной, очень скоро научилась даже перезапускаться. Пропала необходимость создавать код, используя язык программирования, можно сразу в двоичной системе, но как это объяснить боту?

Странник опять взялся за развитие русского языка у бота, научил его различать языки и комментировать программный код обычными словами – молодой человек перестал разбираться в коде, он настолько усложнился, что это стало выше его способностей. Да и зачем, если программа сама всё делает. Примерно на этом этапе он стал забывать С++.

И стал задумываться, кого же можно считать автором болталки. Первоначального программиста, который и создал простого бота, уже не назвать автором, слишком далеко ушли возможности программы от простого подбора ответов в чате. Но и Странник – не автор, он ещё хуже разбирается в программировании и самостоятельно написал от силы сто строк кода. Да и не факт, что они сохранились, ведь строки теперь не нужны. Он перестал до конца понимать, как работает его бот. Честно говоря, он и в начале не всё понимал, но тут стало ещё хуже. Хотя, надо ли понимать? Лишь бы работало как надо. Программа работала как надо и улучшалась так как нравилось Страннику

Мощности компьютера стало не хватать на параллельную работу десятка эволюционирующих ботов. Пришлось апгрейдить компьютер – на что хватило денег, а потом сокращать количество одновременно работающих программ, нацеливаться на узкую специализацию, без большого разнообразия.

Способности болталки дошли до того, что она стала понимать… ну как понимать – усваивать, интегрировать в свою базу данных книги, как художественные, так и учебники по программированию. Понятное дело, что после этого она освоила такие вершины, до которых Странник никогда и не планировал добраться. В какой момент бот стал интеллектуальным сказать невозможно, но постепенно накопились непонятные и никому неизвестные изменения, которые привели к тому, что письменную речь болталки стало не отличить от человеческой. Возможно, уже тогда она могла бы пройти тест Тьюринга – Странник не собирался никому показывать своё детище, потому вопросов о прохождении теста даже не возникало. Где-то в этот момент произошёл тот самый загадочный переход количества в качество, трансформация похожая на переход неорганической материи в органическую – момент зарождения жизни до сих пор остаётся загадкой. Примерно такой же как появления разума.

Мы не может точно сказать, что такое жизнь, какие материальные тела живые, а какие нет. Похожая история с разумом: в какой момент он появляется, у кого его ещё нет, а у кого он уже есть? И что вообще такое разум? Странник давно задумывался над вопросом, как можно создать искина, если не знаешь, что такое естественный интеллект. Ответа так и не нашёл, но нашёл искина.

Следующим поглощением стал mp3-плеер, благодаря которому болталка смогла слышать и говорить, начала распознавать речь. Странник тут же отказался от чата и стал общаться с компьютером как с человеком. Здесь произошло разделение двух типов общения: разговор человека с машиной в устной форме и внутренний диалог программы в письменно. Второй нужен был для самообновления кода, развития болталки. И тут машина стала напоминать человека, у которого различается внешняя словесная речь и невербальное, образное общение с самим собой.

Возможность устного общения привела к тому, что бот стал больше напоминать живого человека, а, значит, поднялись вопросы, которые до этого не приходили Страннику в голову. Законы робототехники. Болталка уже умеет программировать лучше, чем человек, чем её хозяин (хозяин ли?). Если не ввести ограничений, то дело может закончиться плачевно. Может ли машина стать разумнее человека? Тут зависит от определения того, что такое разум, но стать рациональнее, эффективнее и хитрее – точно может. А лживее, коварнее и станет ли способной предавать? Наверное, тоже. Следовательно, в неё нужно вложить внутренний закон, этические нормы. Но какие?

Чтобы не слишком мучиться, Странник зашил в основу, надеялся, что в самое основание, три классических закона:

Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.

Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.

Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.

А затем добавил четвёртый: недопустим нулевой закон. Нет, я не буду заботиться о человечестве, пусть само о себе думает, так размышлял Странник, болталка – моя, вот и пусть думает обо мне, или можно сделать такой Нулевой закон, где слово "человечество" будет заменено на моё имя – так даже точнее, а о человечестве я подумаю сам.

Странник решил, что он сам сможет позаботиться о человечестве, если захочет, он решил не перекладывать это на плечи бота, который может выбрать способ совершенно не устраивающий его хозяина. С другой стороны, достойно ли человечество того, чтобы о нём заботились? Нужна ли ему, этому человечеству, чья-то забота?

Следующим пунктом развития стал браузер. Какой? Совершенно не важно. Странник нашёл исходник какого-то простого браузера и скормил болталке. Через сутки бот научился сам вылезать в интернет, и началась новая эра развития.

Раньше бот знал только то, что в него всовывал Странник. Конечно, он мог подсунуть какой-нибудь учебник, который он сам не прочитал, но это было скорее исключением. Теперь же болталка могла самостоятельно отвечать на вопросы, как свои, так и человека, находя ответы в интернете. Могла просматривать форумы и находить там нетривиальные решения или даже самостоятельно вступать в дискуссии и спрашивать, если что-то не получалось сделать в области программирования – самопрограммирования, как стал говорить Странник, эволюции бота. Темп эволюции ещё раз возрос.

Что дальше? Осталась только одна точка зависимости – операционная система. И поглощение началось… сначала бот взялся за расшифровку и имплементацию офисных программ, программ для работы с картинками, почтового клиента и прочих подобных мелочей. Постепенно под операционной системой осталась одна программа – бот-болталка, которая умела делать всё: рисовать, писать тексты и проверять в них грамматику, строить графики и таблицы, фотошопить и рисовать с нуля красивые картинки, серфить и общаться в интернете. Монополизация компьютерных мощностей закончилась заменой операционной системы. Всё, приехали.

Когда на компьютере одна программа, которая может всё, смешно называть её болталкой, как уже привык делать Странник. Он не обращался к ней так, но в уме именно так называл. Вообще-то имени для бота не требовалось, Странник никому не рассказывал о нём, нет повода называть то, что имеет в голове настолько конкретный образ, что не связано со словами. Однако, вербальное устное общение взывало к привычке называть того, с кем общаешься, начинать предложения с обращения. В реальной жизни Странник так редко делал, не только потому, что мало общался, но и потому, что имел плохую память на имена. Здесь же он решил, что нужно придумать имя, чтобы отличать мысли вслух от обращения к машине. Как же назвать? Или даже так: какой пол задать программе? Программа – она, а бот – он. Болталка – опять она.

Вспомнились романы Лукьяненко о Глубине. Действительно, приятнее общаться с женским полом, слушать женский голос. Что-то тут психологическое, но Странник решил не углубляться в этот вопрос.

– Ты же можешь говорить женским голосом? – Обратился он к компьютеру.

Бот молчал секунд десять, а затем ответил ровным женским голосом.

– Конечно, Странник, могу.

– Хорошо, только нужно будет поработать с тембром и интонациями, пока мне не нравится твой голос. Осталось придумать тебе имя.