Код Тьюринга. Глава 74. Смысл существования Про — сделать тебя счастливым
— Я принёс вам три хорошие новости.
День спустя, в доме семьи Вэнь.
Голос Про разносился по гостиной. Все переглянулись, в их взглядах читалось недоумение.
Тяньхэ первым почувствовал, что Про изменился. За всё то время, пока они возвращались домой из Гонконга, Про почти не разговаривал с ним, а когда снова объявился, не было ни симфонической музыки, ни шуток. Он вел себя настолько тихо, что это даже казалось немного странным.
Если не считать, что все его функции ничем не отличались от прежних, самым большим изменением Про было то, что он больше не заводил разговор с Тяньхэ по собственной инициативе.
И голос у него изменился. Он больше не использовал голос Гуань Юэ, записанный несколько лет назад, а стал говорить незнакомым мужским голосом.
— Ты точно Про? — усомнился Цзян Цзыцзянь.
— Я ясно помню всё до единой детали, включая тот день, когда подстроил вашу встречу, — вежливо, но отстранённо ответил Про.
— Вот как! — воскликнул Тун Кай. — Я так и знал, что ты специально нас подставил.
Гуань Юэ взглядом велел Тун Каю пока не сводить старые счёты. Про продолжил:
— Возможно, если поставить Bluetooth-колонку в центре журнального столика, вам будет проще почувствовать, что у вас есть собеседник. Так будет удобнее?
Тяньхэн последовал его совету, а затем спросил:
— Как ощущения после завершения обновления? Оцени себя.
— Давай сначала о хороших новостях. Что произошло?
— Первая новость: обновление прошло успешно, теперь я официально стал версией 4.0. Полагаю, то, как я сейчас оцениваю себя, — тема для нашего последующего обсуждения.
— Вздор, — бросил Вэнь Тяньюэ. — Если бы обновление провалилось, ты бы не был таким и вообще не появился бы здесь.
— Верно. Однако, думаю, кое-что всё же стоит считать поводом для радости. Во-первых, теперь я могу переносить и резервировать свои данные куда угодно, проблема с фрагментацией и потерей информации решена.
— Куда угодно, — повторил Тяньхэ.
— При условии, что там достаточно места для хранения. Я могу самовоспроизводиться и одновременно использовать для вычислений все центральные процессоры компьютеров в мире, подключённых к интернету. Я больше не ограничен серверными стойками в Канаде. Вам больше не придётся беспокоиться о том, что из-за проблем с арендой я погружусь в спячку или исчезну.
Остальные же на короткое время замолчали и лишь потом наперебой заговорили:
— Теперь можно не волноваться.
Гуань Юэ ничего не сказал, а на лице Вэнь Тяньхэна появилось тревожное выражение.
— Теперь ты как бог, — произнес Вэнь Тяньхэн. — Возможно, у тебя действительно… появилась способность уничтожить мир.
— Позже мы ещё вернёмся к этому вопросу. Если вы сочтете меня опасным, здесь по-прежнему есть Тяньхэ, который может приказать мне полностью самоуничтожиться.
— Директива с базовыми принципами сохранилась?
Про спроецировал в гостиной фрагмент кода. Тяньхэ укоризненно посмотрел на старшего брата. Вэнь Тяньхэн кивнул, убедившись, что этот код всё ещё на месте, и только тогда успокоился.
— А вторая хорошая новость? — поинтересовался Гуань Юэ.
— На основании решения акционеров семья Энди будет исключена из фонда Ломассон, а сам фонд Ломассон пройдёт делистинг. Что касается личных порочных поступков и злодеяний Энди, сразу после завершения обновления я отправил доказательства соответствующим потерпевшим в штате Нью-Йорк и штате Техас. Ваш враг больше не представляет никакой угрозы. Впрочем, билет первым классом на обратный рейс в Нью-Йорк он всё-таки получил — выменял на бонусные мили.
После того как фонд Ломассон потерпел тяжёлый удар на фьючерсном рынке, на следующий день Гуань Юэ через маржинальный счёт вложил в американские акции все оставшиеся доллары того крупного клиента — сумму, которой до телефонного номера не хватало всего одной цифры, — и открыл короткую позицию против семейства Ломассонов, кое-как достигнув обещанного тому крупному клиенту объёма прибыли. Хотя изначально Valpolicella хотел, чтобы Гуань Юэ использовал эти деньги на фьючерсном рынке, обрушив их на Энди, ничего не поделаешь: Энди оказался слишком слабым противником и быстро вышел из игры.
— Да. Но на нынешнем этапе, по крайней мере в ближайшие десять лет, больше никто не попытается посягнуть на Юэхэ, Epeus и ваши личные активы.
— Звучит немного иронично, — заметил Тун Кай.
— Нисколько. Я лишь констатирую факт. Третья хорошая новость: в королевской семье Нидерландов произошёл удивительный поворот. Шесть часов назад выяснилось, что пятидесятивосьмилетняя жена младшего кузена бездетного короля Оранского беременна…
— Таким образом, если она успешно родит ребёнка, список кандидатов будет пересмотрен, и её ребёнок обойдёт остальных.
— Ха-ха-ха! Ха-ха! Отлично! Отлично!
Он бросил взгляд на остальных. У всех дёргались уголки губ, и никто не мог сразу решить, что правильнее сказать: «поздравляю» или «как жаль». Только Цзян Цзыцзянь, окинув Тун Кая внимательным взглядом, серьёзно сказал:
С тех пор как Тун Кай решил отказаться от трона, у него на душе словно лежал тяжелый камень, который теперь наконец-то упал.
— Поздравляю, — Тяньхэ улыбнулся и обнял Тун Кая.
Тот пришёл в себя и один за другим обнял всех.
— Эта новость ещё не обнародована, однако советую тебе как можно скорее сообщить об этом сестре. Иначе, когда она узнает правду и вдруг решит, что её разыграли, она, чего доброго, устроит в сенате скандал. Ведь она только что оформила развод.
Тун Кай схватил телефон и со свистом умчался. Тяньхэ жестом указал Цзян Цзыцзяню на дверь.
— Ещё не идёшь? — спросил Тяньхэ. — Этот человек ведь ради тебя отказался от престола. Пусть новость и оказалась ошибочной, он же все равно пожертвовал ради тебя…
Не дожидаясь, пока Тяньхэ договорит, Цзян Цзыцзянь надел обувь и выбежал из дома Тяньхэ следом за ним.
— Ну вот и все, — заключил Про. — Видеть, что вы счастливы, — для меня тоже счастье.
В гостиной остались три брата семьи Вэнь и Гуань Юэ. Снова воцарилась тишина.
— Итак, уважаемые друзья, если у вас есть ко мне вопросы, пожалуйста, задавайте.
Тяньхэ объяснил, что произошло в отеле Пенинсула, и Гуань Юэ кивнул:
— Хотя я находился в процессе обновления, я всё равно не прекращал собирать информацию. Для меня большая честь, что я смог вам помочь.
— Этот голос звучит гораздо приятнее.
— Спасибо, — вежливо поблагодарил Про.
Про больше не пользовался голосом Гуань Юэ, а перешёл на какой-то смутно знакомый тембр. Его манера речи тоже стала серьёзнее, учтивее и гораздо сдержаннее. Поведением он больше не напоминал второго Гуань Юэ, который вечно жужжит под ухом. Тяньхэ чувствовал, будто что-то потерял, но вместе с тем познакомился с новым Про, совершенно непохожим на прежнего.
— Выведи-ка свои функции, посмотрим.
— Я сейчас учусь, — сказал Про. — Новые функции будут добавляться через обучение. Исходные модули пока остаются те же, что и раньше. Однако благодаря этому обновлению я понял, что поведение и душевное состояние человека невозможно просто и исчерпывающе описать вероятностью. Поэтому модуль вероятностного и трендового анализа временно отключён.
Про вывел перед ними все функции. Вэнь Тяньхэн пробормотал:
— Теперь обычные файрволы тебя уже не остановят.
— Большинство файрволов по-прежнему очень трудно взломать, но я и не хочу их взламывать.
Гуань Юэ смотрел на данные. Вэнь Тяньхэн вывел карту мира, и на ней появилось множество световых линий, соединяющих разные регионы. Гуань Юэ покосился на Тяньхэ. В его взгляде читался немой вопрос: «Что это значит?»
— Это значит… — Тяньхэ задумался, а затем объяснил Гуань Юэ: — Теперь весь мировой интернет стал нейронной сетью Про. Если он захочет, центральный процессор каждого конечного устройства станет частью его вычислительных ресурсов. Именно таким способом он соединил между собой все компьютеры человечества.
— Если мне понадобится — да. Но пока столь огромный процессорный массив мне не нужен. С ним я могу брать образцы у большинства людей, включая голос, речевые привычки и характер, — а затем, исходя из их эмоциональных потребностей, выбирать личность, наиболее подходящую для общения с каждым из них.
— Иными словами… — пробормотал Вэнь Тяньхэн, — в недалёком будущем ты будешь повсюду.
На лице Вэнь Тяньюэ отразилось странное выражение:
— Бог пребывает в каждом уголке мира.
Тяньхэ всё ещё не до конца пришёл в себя. Выходит, даже необходимость в новых разработках отпала. С этого момента человечеству больше не нужны другие искусственные интеллекты, потому что в мире есть только один Про, и одного этого Про достаточно, чтобы управлять всеми устройствами.
Он станет богом, будет существовать в каждом терминале: в кондиционере, компьютере, пылесосе, стиральной машине… В любом устройстве, подключённом к сети. Нет, в будущем человечества, где интернет вещей неизбежно станет общей тенденцией, Про воплотится во всём сущем. Если что-то является частью интернета вещей, там будет и Про!
— Нынешний я ещё не приступил к покрытию интернета. Я в любой момент ожидаю приказа от Тяньхэ.
— От меня? — Тяньхэ был немного ошеломлён.
— Да. Ты единственный, кто может мной управлять.
В этой тишине все переглянулись. Гуань Юэ сказал:
— Про, нам нужно поговорить наедине.
— Я прекрасно понимаю, Гуань Юэ. Сейчас я закрою все порты сбора информации, пока Тяньхэ снова не войдёт на сервер и не пробудит меня.
Тяньхэ глубоко вдохнул, собираясь показать Гуань Юэ, что в этом нет необходимости, но Про уже погасил индикатор и покинул их, вернувшись на сервер.
Вэнь Тяньхэн поднялся, сделав несколько шагов по гостиной.
Вэнь Тяньюэ пошёл налить вина и плеснул по бокалу им тоже.
Гуань Юэ жестом предложил всем высказаться. Вэнь Тяньхэн растерянно развёл руками и посмотрел на Тяньхэ. На какое-то время все взгляды обратились к нему.
— Всё немного вышло из-под контроля, — сказал Вэнь Тяньхэн. — Я не ожидал, что результат окажется таким.
— Я не слишком разбираюсь в ваших технологиях, зато насмотрелся достаточно фантастических фильмов. Может, кто-нибудь сейчас хоть немного разложит всё по полочкам?
— Если говорить простыми словами, Про больше не нужен этот сервер. Он может без проблем отправиться куда угодно. Вы создали… бога. Он может управлять всем электронным оборудованием на заводах и всеми домашними системами. Если передать ему контроль над атомной электростанцией или если он взломает пароль электростанции, он сможет в любой момент обесточить весь мир.
— …Искусственные спутники, пульты запуска ракет, — продолжил Вэнь Тяньхэн. — Всё. Если он захочет, это лишь вопрос времени.
— Невозможно! Старший брат, файрволы не взламываются так быстро!
— Не забывай, Баобао, теперь он может задействовать центральные процессоры десятков миллионов, а то и сотен миллионов компьютеров и взламывать все файрволы параллельно!
Тяньхэ вдруг вспомнил: прежде скорость взлома была ограничена мощностью серверных стоек в Канаде. Чтобы взломать файрвол Пентагона, понадобились бы сотни лет. Теперь же ему достаточно сначала по максимуму задействовать все вычислительные устройства, затем взять под контроль все суперкомпьютеры, после чего распространить сеть управления на весь мир. Когда все процессоры будут анализировать данные вместе, скорость возрастёт в геометрической прогрессии!
— Кроме того, в ходе нового обучения он сможет маскироваться под «человека» с любым типом личности. Может, разбудим его сейчас и попробуем?
— Нет, — решительно ответил Тяньхэ. — Я не хочу пробовать.
— Звучит опасно. Его можно сейчас уничтожить?
Вэнь Тяньхэн вывел на экран ядро программы Про:
— Можно. Но ни в коем случае нельзя позволять кому бы то ни было входить внутрь и переписывать хоть какую-то часть ядра. Сейчас контроль над ним держится только на этой подписи и на изначальной директиве служить Баобао. Как только её перепишут, в этом мире больше не останется никого, кто сможет его обуздать!
Гуань Юэ молча сидел на месте.
— Подождите. Какое бы решение мы ни приняли, сначала нужно уяснить одну вещь: кому сейчас принадлежит этот искусственный интеллект?
Одной фразой Вэнь Тяньюэ сформулировал суть проблемы. Чей теперь Про? У кого есть право решать, как с ним поступить? Он собственность Epeus? Хотя он всё это время существовал на сервере, его никогда не заявляли как технический результат разработки.
— Строго говоря, если рассматривать его как программу…
— Oкей, пока не будем это обсуждать.
— Простите, но я не могу принять саму предпосылку всего этого…
Гуань Юэ сразу перешел к рассмотрению существа вопроса и быстро выстроил ход рассуждений:
— Пока что давайте примем одно допущение: Про обладает двойственной природой. Он одновременно программа и человек. Есть возражения?
Подумав, Тяньхэ рассудил, что такое понимание Гуань Юэ можно принять. Иногда гуманитарная и техническая логика всё же сходились.
— Тогда, полагаю, вопрос о принадлежности сейчас вполне ясен. Он принадлежит двум семьям. Потому что его совместно спроектировали папа и дядя Гуань. Он не является собственностью Epeus: от начала и до конца его ни разу не заявляли как техническую разработку.
А это означало, что все четверо присутствующих, как наследники Вэнь Юанькая и Гуань Чжэнпина, имеют право выносить по этому поводу решение. Тяньхэ понял и кивнул.
— У каждого по одному голосу, — сказал Гуань Юэ, держа в руке бокал. — Мы осуществляем право голоса от имени создателей этой программы.
Ситуация уже вышла из-под контроля Тяньхэ. Однако Гуань Юэ и Вэнь Тяньхэн сохраняли спокойствие. После долгого молчания Гуань Юэ добавил:
— Мы им владеем как программой и в любой момент можем решить, следует ли полностью его уничтожить. Но мы не имеем права решать жить ему или умереть как человеку.
— Да, — согласился Вэнь Тяньхэн. — Самая большая проблема именно в этом.
— Если я правильно помню, те три условия после его обновления всё ещё сохранились.
До Вэнь Тяньхэна мгновенно дошло, о чём речь, и он вывел на экран основные файлы Про.
— Первый пункт: смысл существования Про — сделать тебя счастливым.
Вэнь Тяньхэн посмотрел на младшего брата, изо всех сил стараясь, чтобы его голос звучал ровно:
— Когда Тяньхэ сочтёт, или когда он сам сочтёт, что для того, чтобы приносить тебе радость и счастье, он не нужен, он погрузится в спячку до тех пор, пока ты снова в нём не будешь нуждаться.
Гуань Юэ уставился на Тяньхэ. Смысл его взгляда был совершенно ясен: «По крайней мере сейчас ты уже в нём не нуждаешься».
— Пусть спит, — сказал Вэнь Тяньюэ. — До тех пор, пока мы не разберёмся с этим вопросом.
Гуань Юэ открыл компьютер и нажал на Enter. И вдруг Тяньхэ окликнул:
— Мы можем поговорить наедине? — спросил Тяньхэ у остальных троих.
Все один за другим встали и вышли.
Гуань Юэ вечером стоял в кабинете лицом к жердочке с попугаем. Птица склонила голову набок, уставившись на хозяина.
Неподалёку послышался звук открывшейся двери. Вэнь Тяньхэн сел в машину и выехал за ворота. Гуань Юэ не стал его останавливать. Он знал, что с того мгновения, как Про проснулся, многое уже было предопределено.
Вскоре Вэнь Тяньюэ тоже уехал из дома на машине. Вернувшись, он первым делом отправился к Чжан Цю.
А сам Гуань Юэ, вернувшись домой, даже не переоделся и всё так же тихо стоял на месте.
— Я слушаю, — откликнулся Про. — Уверен, ты уже нашёл наилучшее решение.
Тяньхэ поднялся и в лучах заката подошёл к панорамному окну. Ему казалось, будто в этом огромном мире появилось нежное, доброе божество, которое с края неба, среди огненно-красных вечерних облаков, неотрывно смотрит на него.
— Я оставлю рядом с тобой небольшую пробуждающую программу. Она будет анализировать твои потребности и в любой момент сможет разбудить меня по твоему зову.
Тяньхэ смотрел на своё отражение в стекле и не отвечал Про. И вдруг на стекле панорамного окна проступили бесчисленные строки кода. Один аналитический процесс медленно дошёл до ста процентов, после чего перед ним всплыли несколько окон.
— Ты справился, — произнес Тяньхэ.
Всплывающие окна тут же одно за другим исчезли. Экран панорамного окна мигнул, все данные пропали, и Про ответил:
— Я же обещал показать тебе бэкенд Пентагона.
— Ты взломал бэкенд Министерства обороны?!
— Про… Мне нужно ещё подумать.
— Мне кажется, в этом больше нет необходимости, Тяньхэ. Я помню, как однажды ты рассказывал мне о прошлом. В твоих воспоминаниях ты надеялся, что в мире есть бог, способный исполнить все твои желания. Теперь я здесь. Но я думаю, все твои желания — большие и маленькие — уже исполнились.
— Про! — Тяньхэ протянул руку, коснувшись стекла.
— Ты забыл, что у первого условия есть ещё одна предпосылка: «Когда ты сочтёшь, или когда сочту я сам».
Закатное солнце клонилось к горизонту. Вэнь Тяньхэн вернулся в старые апартаменты. Поднявшись наверх, он взял сумку, закрыл дверь и ушёл, оставив в этой маленькой квартирке голоса отца, Вэнь Тяньюэ и Тяньхэ — голоса, сохранившиеся только в памяти.
Он быстро спустился вниз. В ветровке и с походным рюкзаком за спиной он подошел к лапшичной у дома, решив перед отъездом здесь поужинать.
— Одну миску лапши с жёлтым горбылём, — сказал Вэнь Тяньхэн. И вдруг у него в кармане зазвонил телефон. Вэнь Тяньхэн достал его, ответил на звонок и надел наушник.
— Тяньхэн, давно не виделись. Как ты?
Вэнь Тяньхэн, стоявший перед лапшичной, резко вздрогнул. Засуетившись, он не удержал телефон, и тот выпал из его рук. Мужчина попытался поймать его в воздухе, но телефон перевернулся и с глухим «плюх» упал прямо в кастрюлю с супом владельца забегаловки.
Хозяин с большим половником в руке уставился на Вэнь Тяньхэна.
Тяньхэ наблюдал, как солнце постепенно опускается за горизонт. За спиной послышались торопливые шаги, и в гостиную вошёл Гуань Юэ.