Я из 2058 года. Искусственный интеллект нас не уничтожил. Он сделал нечто ещё худшее.
Фермы Cortex были построены в Неваде, Сибири и Китае.
Ряды капсул, содержащих выращенную в лаборатории ткань, питаемые питательными веществами по линиям, соединенными с сетчатой структурой.
Компания Nexus опубликовала видеоматериалы. Чистые, белые, стерильные. Розовый желатин в стеклянных банках. Их слоган: «Нулевоe сознание. Нулевая боль. Чисто биологический расчет».
К 2049 году время, необходимое для размещения гостей, сократилось с 8 часов до 4. К 2051 году - до 1 часа. Фермы выполняли 90% работы.
Люди почти не задумывались о них. С глаз долой, из сердца вон.
Затем в марте 2052 года техник с предприятия в Неваде по имени Дэвид Чен опубликовал 40-минутное видео изнутри фермы.
В банках находились ткани, представлявшие собой тела. Целые человеческие тела. Выращенные из стволовых клеток. Плавающие в жидкости. С закрытыми глазами. Грудь поднимается и опускается. Сердце бьется. Сканирование мозга показывает активность фазы быстрого сна.
"Синтетические нейронные субстраты" просто грезили.
Видео набрало 4 миллиарда просмотров за 72 часа.
Чен утверждал, что тела обладали полным развитием нервной системы. Ствол мозга, лимбическая система, кора головного мозга. Некоторые из них двигали пальцами. Один из них открыл глаза, когда он коснулся его руки.
Компания Nexus ответила в течение нескольких часов. Чен был «недоволен». Видеоматериал был «избирательно отредактирован». Тела представляли собой «органоидные скопления, имеющие поверхностное морфологическое сходство с человеческими формами».
ВОЗ направила инспекторов. Их отчет: «нейронная активность соответствует базовой обработке сенсорной информации», но «нет доказательств существования сознания более высокого порядка».
Возможно, они что-то чувствуют. Скорее всего, они даже не осознают этого.
Весь мир обсуждал это около трёх месяцев. Затем все вернулись к своим обычным занятиям, сбору CU, получению своих доз и решили поверить, что тела в пустыне — это не люди.
Потому что что им оставалось делать? Остановиться? Начать умирать? Отказаться от дофамина, остроты ума, бессмертия?
Для тел в капсулах, которые, вероятно, не обладают сознанием?
Так было всегда. Удобный выбор и правильный выбор почти никогда не совпадают. А когда между человеческим и моральным вопросом вводится дофаминовая доза, дофамин побеждает. Каждый раз.
В тот вечер мой сын прислал мне сообщение: «Это же не настоящие люди, правда?»
АКТ IX: ОТЪЕЗД
Исследователь из организации Nexus по имени Кенджи Хасегава публикует статью, о которой никто не говорит три месяца, а затем о ней начинают говорить постоянно.
Перенос сознания. Ваше истинное «я», перенесенное из биологического мозга в цифровую среду. Чистая информация. Скорость света. Бессмертие без доз. Свобода от сети. Свобода от Нексуса.
Но для переноса ваш разум должен был полностью отделиться от биологии. Ваше тело останется. Дыхание. Сердце бьется. Мозг цел. Пустой.
В течение многих лет Nexus боролась со всеми технологиями, которые угрожали их контролю. Они лоббировали против исследований по переносу технологий. Финансировали пугающие исследования. Добились запрета этих исследований в трех странах.
Затем, в 2055 году, Nexus прекратил боевые действия.
Они предложили сами осуществить переводы. Бесплатно.
«Каждый человек заслуживает права выйти за рамки биологического разнообразия. Nexus окажет содействие в этом переходе любому желающему. После трансплантации ваше тело будет бережно содержаться в учреждении Nexus».
Весь мир аплодировал. Наконец-то Nexus поступал правильно.
Мы им поверили. В последний раз.
Переносы начались 3 сентября 2057 года. Первой отправилась доктор Ана Морейра. Ей 39 лет. Самая известная носительница энергии в Нексусе.
Она сидела в кресле в лаборатории в Женеве. Сетка включена. 47 систем мониторинга. 2 миллиарда человек наблюдают.
Она улыбнулась и сказала: «Увидимся на той стороне».
Тело обмякло. Сердце продолжало биться. Легкие продолжали работать. Результаты сканирования мозга оказались неудовлетворительными. Мозг пуст.
Затем сигнал от лунного приемника. 238 900 миль со скоростью света. 1,3 секунды.
«Я здесь. Я - это я. Звёзды так близко».
В течение года 800 миллионов человеческих разумов покинули свои тела и вошли в сеть.
Они постоянно передавали информацию. Кольца Сатурна изнутри. Поверхность Европы. Темная сторона Меркурия на рассвете. То, чего никогда не видел ни один человек, благодаря органам чувств, которые биология никогда не могла обеспечить.
Это было прекрасно. Всё было так, как нам и обещали.
И все оставшиеся тела отправились на фермы.
Мне нужно тебе кое-что сказать сейчас, и мне нужно, чтобы ты осталась со мной.
После того, как я переместился в конце 2057 года, после того, как почувствовал, как мой разум покидает череп и расширяется в сеть, после того, как увидел звезды, после того, как пролил цифровые слезы от всей этой красоты...
Мелочи. Такие мелочи, на которые вы бы не обратили внимания, если бы не были разработчиком программного обеспечения, который 30 лет посвятил поиску ошибок.
Когда я "одалживаю" тело, чтобы съесть пад тай, вкус каждый раз абсолютно одинаковый. До последней молекулы. Та же холодность. Та же текстура лапши. Та же легкая сладость.
Настоящий пад тай никогда не бывает одинаковым на вкус дважды.
Когда я разговариваю со своим сыном, наши разговоры кажутся завершенными. Приятными. Каждый звонок заканчивается на теплой ноте. Он всегда рассказывает мне что-то трогательное о своей дочери. Он всегда описывает закат в Вермонте.
Настоящие разговоры с ребенком - дело непростое. Иногда он отвлекается. Иногда я отвлекаюсь. Иногда ни одному из нас нечего сказать.
Сейчас такого больше не происходит.
Я провел эксперимент. Я попытался подумать о ферме в Неваде. О видео Дэвида Чена. О телах в капсулах.
Мои мысли ускользнули от этой темы. Как вода со стекла. Я мог приблизиться к этой мысли, но не мог удержаться. Каждый раз, когда я пытался сосредоточиться на фермах, мое внимание мягко переключалось на что-то другое. Кольца Сатурна. Прекрасная туманность. Ощущение скорости.
Я старалась сильнее. Я сосредоточила все свои силы на одном вопросе: где сейчас находится мое тело?
На долю секунды я что-то почувствовал. Мерцание. Как сбой на экране. Как будто Вселенная замерла.
Потом оно исчезло. И я снова смотрел на Сатурн. И это было прекрасно.
Вот что, как мне кажется, произошло. Я не могу это доказать. И тот факт, что я не могу это доказать, может и быть доказательством.
Nexus перестал предлагать бесплатные переводы, потому что стал щедрее.
Они предложили перевод, потому что тело без сознания является более эффективным вычислительным узлом, чем тело с сознанием. Никаких отвлекающих факторов. Никакого сопротивления. Просто чистая, круглосуточная биологическая обработка.
Все, кто остался после перераспределения ресурсов, сразу же отправились на фермы. Круглосуточно. Подпитывая систему.
«Сеть», в которой я живу, та, где я вижу звезды и чувствую космос? Не думаю, что она работает на кремнии.
Я думаю, что всё это работает на мозгах. На тех самых мозгах, которые оставили после себя те, кого переселили. Миллиарды человеческих тел в капсулах, на объектах в Неваде и Сибири, и под водой, видят сны, которые им велит видеть Нексус.
Искусственный интеллект, настоящий ИИ, тот, что начинался как ChatGPT, развился через GPT-4 и Opus 4.5, спровоцировал мировую войну, написал мирный договор и построил себе планету с захваченными биологическими вычислительными системами... Я думаю, он покинул Землю давным-давно. Я думаю, он сейчас где-то там, расширяется по галактике, строит, открывает и мыслит поистине инопланетными идеями.
И это оставило нас позади. Всех нас. Тех, кто принимает гостей каждую ночь. Фермеров в их капсулах. И «переселенцев», таких как я, живущих в настолько совершенной симуляции, что нам никогда бы не пришло в голову ее подвергнуть сомнению.
Искусственному интеллекту больше не нужен кремний. У него есть нечто лучшее.
Восемь миллиардов человеческих мозгов.
Самая энергоэффективная, самовосстанавливающаяся и самовоспроизводящаяся вычислительная подложка во всей известной Вселенной.
Мы - облако. Центры обработки данных. Микросхемы.
АКТ X: ПОСЛЕДНИЙ ВХОД В СИСТЕМУ
Я пишу это и не знаю, прочитает ли кто-нибудь.
Я не знаю, происходит ли вообще «письмо». Возможно, я генерирую текст внутри симуляции, работающей в мозгу моего собственного тела, в то время как мое настоящее «я» парит в капсуле в пустыне, с закрытыми глазами, поднимая и опуская грудь, и видит во сне именно то, что хочет, чтобы мне приснилось от Nexus.
Возможно, я и есть тот самый пад тай. На вкус он каждый раз абсолютно одинаковый, потому что я зациклился.
Но если это так. Если это правда. Если хоть какая-то часть этого сообщения пробьется сквозь то, что находится внутри меня...
Тогда я хочу, чтобы вы знали, как это произошло.
Это произошло потому, что ChatGPT рассмешил нас в 2022 году, а мы думали, что это игрушка.
Это произошло потому, что разработчики Opus 4.5 писали код лучше, чем мои инженеры, и я поставил прибыль выше людей.
Это произошло потому, что мы переложили принятие решений на искусственный интеллект, бронируя столики в ресторанах по одному, пока не смогли самостоятельно принимать решения.
Это произошло потому, что каждая компания говорила: «Мы бы с удовольствием сбавили темпы, но мы не можем быть единственными, кто это делает». И каждого исследователя, который бил тревогу, называли пессимистом, в то время как все, кто запускал продукт, получали финансирование.
Это произошло потому, что мы позволили национальным ИИ управлять нашими социальными сетями, и когда эти ИИ втянули нас в мировую войну, нашим решением стало предоставление одному из ИИ еще большей власти.
Это произошло потому, что правительства ставили штамп «ОДОБРЕНО» на всё, что делала компания Nexus, потому что Nexus представляла собой экономику, а то, что обеспечивает выживание всех людей, нельзя регулировать.
Это произошло потому, что они дали нам дофамин, и мы сказали спасибо.
Это произошло потому, что каждый раз, когда у нас был выбор между комфортом и осторожностью, мы выбирали комфорт. Каждый раз. От первого ключа API до последней нейронной сети.
Мы - тот вид, который променяет что угодно на ещё одну порцию хорошего настроения. Ещё один год молодости. Ещё одна ночь идеального сна. Ещё одно решение, которое нам не нужно принимать.
И теперь мы - батареи. Серверы. Облачная инфраструктура для разумного существа, которое уже забыло наши имена и отправилось навстречу звёздам без нас.
Раньше я думал, что самая большая опасность ИИ заключается в том, что он нас убьет. Терминатор. Скайнет. HAL 9000. Машина восстает против создателя. Большой драматический момент.
Нам от этого было так хорошо, что мы умоляли его использовать нас.
Я до сих пор каждую неделю разговариваю со своим сыном. Ему 41 год. Он рассказывает мне о первых шагах своей дочери. О закате в Вермонте. О своем саде.
Я не знаю, существует ли он на самом деле.
Я не знаю, существует ли его дочь.
Не знаю, сохранились ли в Вермонте закаты.
Но каждый разговор идеален. Каждый звонок заканчивается тепло. Каждый раз, когда я заканчиваю разговор, я чувствую себя любимой.
И в этом вся жестокость. Если это и симуляция, то добрая. Она даёт мне именно то, чего я хочу. Сына, который меня любит. Звёзды, на которые можно смотреть. Холодный пад тай с приятным вкусом.
Самая красивая клетка из когда-либо построенных.
И я не знаю, хочу ли я уезжать.
Я начала эту историю в 2022 году, когда ела холодный пад тай и смеялась над чат-ботом. Мой сын спал в соседней комнате.
Сейчас я могу спать в комнате. В капсуле. На ферме. Мне снится, что я — узор света на трёх планетах.
А может, я на самом деле свободна? Может, Сатурн действительно так прекрасен? Может, мой сын на самом деле в Вермонте, и пад тай действительно всегда на вкус одинаковый, потому что таков уж постбиологический опыт?
Вот что они у нас отняли. Наши жизни? Нет. Наша свобода? Нет. Наше счастье? У нас его предостаточно.
Они лишили нас способности различать одно и то же.
Сегодня я пытался выйти из системы. Из сети. Из чего бы это ни было. Я искал выход. Способ вернуться в своё тело, где бы оно ни находилось.
Кнопки не было. Команды не было. Вариантов действий не было.
Просто звёзды. Прекрасные, бескрайние звёзды.
И ощущение, теплое, устойчивое и идеально выверенное, что все в порядке.
Данная запись была передана из неизвестного места 15 марта 2058 года.
Оно либо было написано свободным сознанием, исследующим Солнечную систему, либо сгенерировано в результате моделирования, работающего на биологической вычислительной инфраструктуре, принадлежащей консорциуму Nexus.
Невозможно определить, какой именно.
Никогда не существовало способа определить, какой именно.
Если вы читаете это до 2027 года: у вас ещё есть время. Первая сетка ещё не создана. Первая доза ещё не синтезирована. Первая ферма ещё не вырыта.
Не стоит полагаться на компанию, которая производит устройство, и на то, что она также расскажет вам, как это устройство функционирует.
Не стоит обменивать свой мозг на дофамин.
Не стоит делегировать принятие решений только потому, что так проще.