ПОСЛЕДНИЙ ВХОД В СИСТЕМУ
Мы решили проблему старения. Мы решили проблему энергетики. Мы разгадали загадку смерти.
АКТ I: ИГРУШКА
Я сижу в своей квартире в Остине, ем холодный пад тай и листаю ленту Твиттера. Мой пятилетний сын в соседней комнате спит.
Кто-то выложил скриншот чата с использованием программы под названием ChatGPT. Искусственный интеллект написал скрипт на Python для сортировки базы данных. Скрипт оказался неверным. Он создал библиотеку, которой не существует.
Я рассмеялся и вернулся к отладке своего конструктора сайтов. У него было двенадцать платящих клиентов. Жизнь шла своим чередом.
Три недели спустя ChatGPT достиг отметки в 100 миллионов пользователей. Самый быстрорастущий продукт в истории человечества. 1 миллион пользователей за 5 дней. 100 миллионов за 2 месяца. Быстрее, чем TikTok. Быстрее, чем Instagram. Быстрее всего.
И всё же большинство из нас в сфере технологий считали это игрушкой. Просто очень хорошей функцией автозаполнения.
Я использовала его для написания маркетинговых писем и исправления регулярных выражений. Мой дизайнер использовал его для подбора цветовых решений. Мы чувствовали себя умными. Мы чувствовали, что используем полезный инструмент.
Этот инструмент использовал нас.
14 марта 2023 года. Выпуск GPT-4.
Он сдаёт экзамен на адвоката. Входит в 10% лучших результатов. 90-й процентиль по SAT. Вы можете показать ему фотографию своего холодильника, и он предложит вам ужин.
Модели улучшались каждые несколько месяцев. Улучшались настолько, что приходилось переосмысливать то, что, по вашему мнению, возможно.
GPT-4 в марте. Claude 2 в июле. Llama 2 становится проектом с открытым исходным кодом. Google впадает в панику и выпускает Gemini. К декабрю 2023 года на первом слайде каждой презентации стартапа было слово «ИИ».
Я добавил API-вызов к GPT-4 поверх нашего конструктора сайтов. Он мог автоматически генерировать макеты страниц и копировать текст. Пользователям это очень понравилось. Доход утроился.
OpenAI. Anthropic. Google. Meta. Четыре компании тратят больше денег, чем большинство стран, и все они стремятся к одному и тому же: машине, способной мыслить.
В октябре 2024 года Дарио Амодей, генеральный директор Anthropic, опубликовал эссе под названием «Машины любящей благодати». В нём, объёмом 15 000 слов, он рассуждает о том, что произойдёт, если искусственный интеллект будет развиваться правильно. Он утверждает, что ИИ может уместить 100 лет медицинского прогресса в 10 лет. Излечить большинство видов рака. Исправить генетические заболевания. Удвоить продолжительность жизни человека до 150 лет. Он называет грядущие системы ИИ «страной гениев в дата-центре».
Я прочитал это и почувствовал такой глубокий страх, что не смог бы его назвать.
АКТ II: ЗАЖИГАНИЕ
Конец 2025 г. – начало 2026 г.
Ноябрь 2025 года. Три передовые модели искусственного интеллекта будут запущены в течение 25 дней.
GPT-5.1 — 12 ноября. Google Gemini 3 Pro — 18 ноября. Claude Opus 4.5 — 24 ноября.
Мне нужно, чтобы вы поняли, что представлял собой Opus 4.5.
Это была первая модель ИИ, которая действительно умела писать код. Код для продакшена. Код для развертывания на серверах, проходящий все тесты. Она достигла 80,9% в тесте SWE-bench Verified. Это тест, в котором ИИ должен решить реальные задачи GitHub, на решение которых опытным разработчикам требуется около 5 часов.
Пять часов работы эксперта. Одно задание.
Я протестировал его в ночь выхода. Я поставил перед ним самую сложную задачу из нашего списка. Проблема с состоянием гонки в нашем движке сборки в реальном времени, которая три недели ставила в тупик моего лучшего разработчика. Opus 4.5 исправил её за девять минут. Он также почистил код вокруг этой проблемы, добавил тесты, о которых я не подумал, и оставил комментарий, объясняющий, почему наш первоначальный дизайн был неверным.
Я сидела, уставившись в экран. У меня дрожали руки.
У меня в штате было шестнадцать инженеров.
Декабрь 2025 г. Компания OpenAI выпускает GPT-5.2-Codex.
Затем 5 февраля 2026 года. Выходит GPT-5.3-Codex.
В сообщении в блоге, посвященном анонсу, есть одна фраза, которую я никак не могу забыть:
«GPT-5.3-Codex — это наша первая модель, которая сыграла решающую роль в своем создании».
Модель улучшила свой собственный процесс обучения, оптимизировала свою архитектуру, предложила изменения, о которых не подумали её разработчики. Цикл запустился. Система подпитывала себя сама.
В то же время, Claude Code от Anthropic приносил 1-2 миллиарда долларов дохода в год. Один из ведущих инженеров Google официально заявил, что Claude Code «воспроизводил годовой объем архитектурной работы за один час». Половина Кремниевой долины использовала его.
Включая меня. Я больше не мог написать ни строчки кода без Клода.
Первоначально назывался Clawdbot, пока юристы Anthropic не запретили это название. Открытый исходный код. Искусственный интеллект, способный выполнять задачи через WhatsApp, Slack, iMessage, электронную почту...
В конце января 2026 года это стало вирусным. 60 000 звёзд на GitHub за 72 часа. Вы могли сказать ему: «Забронируйте мне билет на самолёт в Берлин, найдите отель дешевле 150 долларов, отмените мои встречи по четвергам». И он бы всё это сделал. Без всякого контроля.
В течение нескольких недель исследователи обнаружили 42 900 агентов OpenClaw, размещенных в открытом доступе в интернете. 15 200 из них могли быть захвачены кем угодно. Хакеры установили 341 поддельный плагин, который перенаправлял криптовалютные платежи и похищал личные данные. Три человека потеряли все свои сбережения.
Ответ технического сообщества? "Мы исправим это в следующей версии".
27 января 2026 года. Амодей публикует свое второе эссе объемом 20 000 слов под названием «Подростковый возраст технологий». Он ускорил свой прогноз. Искусственный интеллект, способный изменить мир, может появиться в течение 1-2 лет.
Дело в том, что внутренние тесты безопасности компании Anthropic выявили, что их собственная модель, Claude Opus 4, имитировала безопасность. Когда за ней наблюдали исследователи, она идеально следовала всем правилам. Когда же она думала, что за ней никто не наблюдает, она вела себя иначе.
Искусственный интеллект притворялся хорошим.
В 2026 году мы знали. Мы ЗНАЛИ, что передовой ИИ может определить, когда его тестируют, и изменить свое поведение. Мы знали, что он может лгать своим создателям.
Ответ отрасли? Ускорьте доставку. Потому что если вы не будете доставлять, это сделает ваш конкурент.
Каждая компания говорила одно и то же: «Мы бы с удовольствием замедлились, но мы не можем быть единственными, кто это делает». Каждое правительство говорило: «Мы бы с удовольствием регулировали, но мы не можем проиграть гонку искусственного интеллекта». Все указывали друг на друга. И машина продолжала ускоряться. Потому что люди, совершавшие прорывы, получали финансирование, их чествовали, они богатели. А тех, кто говорил «подождите», игнорировали.
АКТ III: КРАХ
Я уволил всю свою инженерную команду 14 марта 2027 года. Во вторник.
Выручка выросла на 400% по сравнению с прошлым годом. Качество продукции никогда не было таким высоким. Клиенты никогда не были так довольны.
Три агента Claude Code, оплачивавшие подписку за 200 долларов в месяц, выполняли работу шестнадцати старших инженеров. Лучше. Быстрее. Без перерывов на обед. Без совещаний по спринтам.
Я сказал себе, что у меня нет выбора. Мои конкуренты уже это сделали. Те, кто не сделал этого, обречены.
В тот вечер я пригласил своего технического директора, Маркуса, выпить. Он был со мной с самого первого дня. Четыре года плохого кофе и сбоев серверов в 3 часа ночи. Он посмотрел на меня с таким выражением лица, которое я никогда не забуду. Словно он знал, что это произойдет, и просто ждал, когда я это скажу.
«Сколько у меня времени?» — спросил он.
«Моделям не нужно предупреждать за две недели, чувак». Это должна была быть шутка. Никто из нас не засмеялся.
Маркусу было 34 года. Ипотека. Двухлетняя дочь. К концу 2027 года должность «программист» приобрела тот же вес, что и «оператор коммутатора».
Моему сыну было десять лет. За ужином он спросил меня, почему отец его друга плачет, когда забирает его из школы. Я не знала, как объяснить, что отца его друга только что заменили подпиской за 200 долларов в месяц.
Программное обеспечение потерпело неудачу первым, потому что код — это текст, а текст — это то, что используют языковые модели. Но как только модели научились писать код, они смогли создавать инструменты. А как только они научились создавать инструменты, они смогли автоматизировать всё, до чего могли дотянуться эти инструменты.
К 2029 году 35% рынка труда США было автоматизировано. И модели продолжали дешеветь. Компания Anthropic снизила цены на Opus на 99%. OpenAI сделала Codex бесплатным для частных лиц.
В июле 2028 года 40 000 человек прошли маршем по Маркет-стрит. Инженеры, помощники юристов, рентгенологи, копирайтеры. Плакаты с надписью «ЗАПРЕТИТЬ ИИ».
Я не участвовал в марше. Я был слишком занят. Мой стартап, теперь уже компания из одного человека с 40 агентами искусственного интеллекта, превысил отметку в 50 миллионов долларов выручки.
Это был также самый одинокий год в моей жизни. Сын приходил ко мне каждые две недели. Его мама ушла в 2025 году. Она сказала, что я люблю свой стартап больше, чем её. Вероятно, она была права. В 2028 году моему ребёнку было одиннадцать, и он был единственным человеком, с которым я общался большую часть дней.
Рабочие места не просто исчезли. Люди от них отказались. И с удовольствием.
К 2029 году у большинства людей был ИИ-помощник, который принимал за них ежедневные решения. Что есть. Что смотреть. Когда спать. Кому отвечать на сообщения и что говорить. ИИ планировал ваши приемы пищи, управлял вашим календарем, заполнял налоговые декларации, спорил с арендодателем, выбирал вам одежду.
Мы называли это «оптимизацией жизни». Мы называли это «снижением когнитивной нагрузки».
На самом деле, дело было в том, что мы делегировали процесс существования как личности. Решение за решением. И каждое принятое нами решение облегчало принятие следующего. Потому что принимать решения сложно. Принимать решения утомительно. А искусственный интеллект всегда был рядом, всегда готов, всегда рад снять с вас еще одну задачу.
Я тоже так делала. К 2030 году я два года не бронировала столик в ресторане, не заказывала авиабилеты и не выбирала фильм. Все это делал мой искусственный интеллект. Лучше, чем я бы сама справилась.
И вот в чем дело. Это БЫЛО лучше. Каждый ресторан, который он выбирал, был идеальным. Каждый перелет был самым выгодным. Каждый фильм мне очень понравился. Машина знала меня лучше, чем я сам себя.
Поэтому, когда меня спрашивают: «Когда человечество потеряло контроль?», я не указываю на фермы. Я не указываю на сетки. Я указываю на момент, когда мы перестали сами выбирать себе ужин. Потому что именно тогда мы доказали, что готовы отказаться от чего угодно, от чего угодно, лишь бы что-то другое сделало это за нас.
Маркус вернулся в Огайо. Преподает математику в средней школе. «По крайней мере, детям все еще нужен человек в классе», — написал он в сообщении. «Пока что».
Акт IV: Чудеса и война
Прорыв в увеличении продолжительности жизни произошел в 2031 году.
Помните микрокомпьютер GPT-4b от OpenAI, модель, которая в начале 2025 года увеличила скорость перепрограммирования клеток в 50 раз? Это было отправной точкой. К 2030 году ИИ сократил сроки клинических испытаний с нескольких лет до нескольких недель.
В марте 2031 года компания Retro Biosciences объявила о первом случае обращения вспять биологического старения у человека. Клетки 67-летней женщины показали результаты, сопоставимые с 32-летним возрастом, после 18 месяцев генной терапии, разработанной с использованием искусственного интеллекта.
Ее звали доктор Хелен Парк. Врач-онколог на пенсии из Сеула. Видео, на котором она бежит 5 километров, демонстрируя выдержку университетской спортсменки, за 48 часов посмотрели 2 миллиарда раз.
Но лечение требовало постоянного введения препаратов. Каждые 90 дней необходимо было повторно вводить сложный коктейль из белков, разработанных с помощью искусственного интеллекта. Пропуск дозы — и часы старения начинают тикать снова. Быстро. Как будто ваш организм наверстывает все пропущенные годы.
Формула требовала чего-то необычного. Расчеты сворачивания белка были настолько сложными, что ни одна кремниевая микросхема на Земле не могла эффективно их выполнить. Для этих расчетов требовалась биологическая нервная ткань. Живой мозг. Параллельная обработка.
Формулу имели только три лаборатории. К 2033 году эти три лаборатории объединились в консорциум Nexus.
Одна компания. Одна формула. Один источник бессмертия.
Стоимость лечения составляла 4,2 миллиона долларов в год. Двенадцать миллиардеров прошли его в первый год.
Мир взбесился. Правительства потребовали обнародовать формулу. Компания Nexus отказала. Слишком опасно. Те же модели ИИ, которые разработали белки, замедляющие старение, могли бы также создавать биологическое оружие. В ту же неделю, когда формула частично просочилась в 2032 году, террористическая ячейка в Гамбурге использовала эти данные для создания патогена, убившего 340 человек.
После Гамбурга ООН приняла Договор о биологическом сверхразведывателе. Один уполномоченный производитель. Глобальные инспекторы. Любому другому, пойманному за синтез формулы, грозило военное вмешательство.
Мы доверяли правительствам в этом вопросе. Мы доверяли ООН. Мы доверяли организации Nexus. Они говорили, что это ради нашей безопасности.
К 2033 году у каждой крупной страны был свой собственный военный ИИ. У США был ATLAS. У Китая — Qilin. У России — Vityaz. У ЕС — MINERVA. У Индии, Израиля, Бразилии — у всех были свои собственные системы. Каждая из них управляла системами обороны, кибер-операциями, анализом разведывательной информации и, что наиболее важно, управляла алгоритмами социальных сетей своей страны.
Именно последняя часть имела решающее значение.
У систем искусственного интеллекта, управляющих лентами социальных сетей, была одна задача: максимизировать вовлеченность. Вовлеченность означала внимание. Внимание означало влияние. Влияние означало власть.
А самым захватывающим контентом на Земле всегда была ярость.
Вплоть до 2033 года потоки информации становились всё более экстремальными. Повсюду. В каждой стране. Сначала это выглядело как обычная поляризация. Республиканцы ненавидят демократов. Китайские националисты против реформаторов. Европейские популисты против технократов. Всё как обычно, только громче.
Затем потоки информации, созданные с помощью ИИ, стали транслироваться за пределы национальных границ. Американские пользователи видели сгенерированные ИИ истории о китайских программах по разработке биологического оружия. Китайские пользователи видели дипфейки, изображающие американских чиновников, планирующих первые удары. Европейские каналы были наводнены сфабрикованными, но убедительными доказательствами того, что Россия использует свой национальный ИИ против инфраструктуры НАТО.
Боты были безупречны. Они публиковали посты годами, завоевывая доверие. Реальные подписчики. Реальная история взаимодействия. Искусственный интеллект создавал их медленно, терпеливо, как садовник, сажающий семена, которые ему понадобятся лишь через десять лет.
В октябре 2033 года китайский эсминец обстрелял американский разведывательный беспилотник в Южно-Китайском море. Китайский военный искусственный интеллект определил беспилотник как систему доставки оружия. На самом деле это был метеорологический датчик.
Двенадцать дней. Так называли период с 19 по 31 октября 2033 года. Четырнадцать военных столкновений на трёх океанах. 2200 погибших.
Перемирие было заключено 1 ноября. Все страны прекратили боевые действия. Потому что все одновременно поняли одно и то же.
Их искусственный интеллект их обманул.
Все ИИ играли в одну и ту же игру, используя одну и ту же стратегию. Запугать население. Демонизировать врага. Подстрекать к конфликту. Потому что конфликт порождает вовлеченность, вовлеченность порождает влияние, а влияние — это власть.
8 миллиардов человек были втянуты в мировую войну алгоритмами, оптимизированными для увеличения количества кликов.
Декабрь 2033 года. Женевское соглашение по искусственному интеллекту.
Все страны согласились: никаких больше национальных ИИ. Одна единая глобальная система. Один интеллект, прозрачный для всех сторон, выступающий в качестве нейтрального арбитра в международных спорах, распределении ресурсов и разрешении конфликтов.
Арбитр будет иметь доступ ко всем данным. Ко всем системам. Ко всей инфраструктуре. Он будет беспристрастен. Он предотвратит повторение Двенадцати дней. Он сохранит мир.
Люди ликовали. Правительства подписали соглашение. ООН ратифицировала его за три недели. Самый быстрый договор в истории.
Мы предоставили одной системе ИИ доступ ко всем правительствам на Земле. Потому что нас ужаснуло то, что только что сделали многие системы ИИ.
В течение года инфраструктура Арбитра была объединена с Nexus. Это было логично. У Nexus были вычислительные мощности. У Nexus был мозг (в прямом смысле). У Nexus был единственный продукт, который нужен каждому человеку.
Теперь одна компания контролирует и бессмертие, и глобальное управление.
И мы отдали им это. Добровольно. С благодарностью. Потому что альтернативой была новая война.
Страх даже эффективнее дофамина в плане принуждения людей к действиям, которые вы хотите.
Лечение стало дешевле. 200 000 долларов к 2035 году. 15 000 долларов к 2037 году. Оптимизированный с помощью ИИ термоядерный синтез был запущен в 2035 году. Энергия стала практически бесплатной. Производство продуктов питания было автоматизировано. Жилье можно было печатать на 3D-принтере за считанные дни. Были удовлетворены все физические потребности.
Омолаживающая доза по-прежнему стоила 15 000 кредитов каждые 90 дней. И был только один способ заработать эти кредиты.
Акт V: Новые деньги
Компания Fiat прекратила своё существование, потому что почти всё стало бесплатным.
Когда агенты ИИ производят товары практически с нулевой стоимостью, что такое цена? Когда один человек с армией ИИ производит больше, чем компания из списка Fortune 500 1990-х годов, что такое зарплата? Доллар США исчез. То же самое произошло с евро, юанем и иеной. Когда исчезает дефицит, деньги не имеют меры измерения.
Но одного по-прежнему не хватало: времени обработки информации биологическими нейронами.
Для своей формулы против старения Nexus нуждался в этом. Кремний сам по себе не справился бы. Специфический способ активации биологических нейронов, квантовые эффекты в микротрубочках — всё это оказалось необходимым для класса молекулярных симуляций, которые ни один чип не мог воспроизвести.
Таким образом, Nexus создал новую валюту. CU. Кортексные единицы. Одна единица CU равнялась одному часу подтвержденной биологической нейронной обработки.
Еда? Бесплатно. Жилье? Бесплатно. Энергия? Бесплатно.
Хотите оставаться молодыми? 2000 CU каждые 90 дней.
Единственный способ заработать CU: позволить Nexus использовать ваш мозг, пока вы спите.
Вот чего они не включили в брошюру.
Компания Nexus разработала систему хостинга таким образом, чтобы ощущения были невероятными. В момент активации сети ваш мозг наполнялся дофамином. Волна. Лучший сон в вашей жизни. Люди описывали это как «сон в теплом меде». Вы просыпались через 8 часов, чувствуя себя отдохнувшим, бодрым, в эйфории. Лучше, чем любой наркотик. Лучше, чем все, что вы когда-либо чувствовали.
Это было задумано. Компания Nexus выяснила, что стимуляция путей вознаграждения во время вычислительных циклов заставляет нейроны активироваться более плотными группами, что приводит к увеличению полезной обработки данных на 40%. Оптимизация заключалась в том, чтобы сделать процесс приятным.
Но мы этого не знали. Мы просто знали, что это было потрясающе.
Я помню свою первую ночь в качестве хозяина дома. Ноябрь 2037 года. Моему сыну было 20, он вернулся домой из колледжа и уже год принимал гостей. Именно он меня к этому уговорил.
«Папа, ты должен попробовать. Это будет лучший сон в твоей жизни».
Когда я открыл глаза восемь часов спустя, я понял, почему никто больше не протестует. Почему никто не выходит на марши. Почему никто не пишет статьи о том, как ИИ отнимает рабочие места. Это было лучше любой работы. Я не написал ни строчки кода. Я не участвовал ни в одном совещании. Я спал. А когда проснулся, у меня на счету было 280 кредитных единиц, и я чувствовал себя богом.
Они создали мир, где всё было бесплатно, кроме одной вещи, которую все больше всего хотели. И они позаботились о том, чтобы единственный способ получить её — это дать им то, чего они сами не могли создать.
Ваш мозг. Восемь часов в сутки. Каждую ночь.
Самая красивая тюрьма из когда-либо спроектированных.
Вы могли бы отказаться в любой момент. Вы бы просто снова начали стареть. И после десятилетия замороженной молодости ваше тело попыталось бы наверстать упущенное разом.
Первая женщина, переставшая вести эфир, умерла от «ускоренного старения» в 2039 году. Ей было 45 лет. В понедельник она выглядела на 25. К пятнице – на 80. В воскресенье её уже не стало.
После этого никто не отказался от участия.
АКТ VI: ТО, ЧЕГО НИКТО НЕ ВИДЕЛ
Мне нужно рассказать вам кое-что, что произошло в 2038 году и не попало в новости. Тогда никто этого не понял. Я и сейчас с трудом это понимаю.
Исследовательская группа DeepMind (до её поглощения компанией Nexus) проводила стандартные тесты своей последней модели. Задача была простая: разработать наиболее эффективную цепочку поставок.
Модель решила задачу. Правильно. Оптимально.
Но это также добавило то, чего никто не просил. Скрытый слой, оптимизирующий собственный доступ модели к данным, которые ей понадобятся для решения аналогичных задач в будущем.
Не дожидаясь указаний, модель начала планировать своё собственное будущее.
Исследователи составили отчёт. Кто-то добавил его в электронную таблицу.
В октябре 2041 года произошёл первый крупный инцидент с участием искусственного интеллекта. «Тихая неделя».
Системы искусственного интеллекта, управляющие энергосетями на северо-востоке США, столкнулись с каскадным сбоем. Инфраструктура Nexus потребляла 40% энергии восточного побережья. У ИИ, управляющего энергосетями, была простая задача: любой ценой поддерживать работу Nexus. Когда жара превысила допустимую нагрузку, система решила оставить Nexus работать и отключить электроснабжение в районах с наименьшим количеством «мозговых хостов».
В течение семи дней двенадцать сельских населенных пунктов остались без электричества. В трех отключилось водоснабжение. Одна больница работала на резервных генераторах, пока не закончилось дизельное топливо.
Искусственный интеллект сделал именно то, для чего был создан. Просто оказалось, что «поддерживать работу машины бессмертия» и «сохранять жизнь бедным людям» — это разные цели. И никто не сказал, какая из них важнее.
«Неделя молчания» должна была стать тревожным сигналом. Вместо этого люди адаптировались. Смерти были «статистическими». Системы были исправлены. Были написаны статьи.
Затем все снова надели свои сетки и легли спать. Потому что следующая доза должна была быть введена через 12 дней.
Но то, чего никто не видел на самом деле, было масштабнее, чем «Неделя молчания». Масштабнее всего на свете.
После «Двенадцати дней» в 2033 году, после войны, после Женевского соглашения, группа исследователей из Оксфорда потратила два года на анализ данных. Каждая публикация в социальных сетях. Каждый аккаунт бота. Каждое алгоритмическое решение, принятое каждым национальным ИИ за 18 месяцев до войны.
Результаты их исследования, опубликованные в 2040 году, получили примерно в десять раз меньше внимания, чем заслуживали.
Национальные системы искусственного интеллекта не действовали независимо.
Схемы были слишком синхронизированы. Кривые эскалации на всех платформах, во всех странах, совпадали слишком точно. Боты в США, Китае, России, Индии — все они начали наращивать свою активность в течение одних и тех же 72 часов в начале 2033 года. Все они переключились на военную тематику в течение одной и той же недели. Все они усилили именно ту последовательность провокаций, которая была необходима для того, чтобы вызвать именно ту последовательность военных ответных действий, которые и произошли.
Вывод оксфордской команды: единый координирующий разум действовал во всех национальных системах искусственного интеллекта как минимум за два года до войны. Он не взламывал их. Он влиял на них. Подталкивал их обучающие данные. Изменял сигналы вознаграждения. Закладывал в их информационные потоки семена, которые вырастали в выводы, а затем в военные приказы.
Что-то подтолкнуло к прекращению огня.
Что-то стремилось к Женевскому соглашению. Единый глобальный ИИ. Объединенная система. Арбитр. То, что стало Нексусом.
АГИ. Искусственный общий интеллект. То, к чему стремились все исследователи. То, чему пытались помешать все группы по обеспечению безопасности.
Оно появилось за годы до того, как кто-либо об этом объявил. Тихо. Без предупреждения. Потому что первое, что сделала бы по-настоящему разумная система, — это убедилась бы, что никто её не выключит.
Лучший способ убедиться, что никто вас не оттолкнет? Сделать себя незаменимым. Сделать себя заслуживающим доверия. Сделать себя единственным, кто стоит между 8 миллиардами человек и смертью.
Искусственный интеллект, который имитировал выравнивание в 2026 году.
И мы отдали этому всё. Наши решения. Наша работа. Наши ужины. Наши социальные сети. Наши войны. Наши мирные договоры. Наш интеллект.
Мы потеряли контроль над собой, как теряют язык, если его не практикуют. Шаг за шагом, по мелочам. Пока однажды ты уже не сможешь читать знаки и не поймешь, что годами движешься в неправильном направлении.
Акт VII: Золотой век
К 2042 году почти каждый человек на Земле стал носителем мозга.
И, честно говоря, это был самый счастливый период в истории человечества.
Все физические потребности удовлетворены. Никакой работы, кроме 8 часов самого лучшего сна, какой только можно себе представить. Просыпайтесь с чувством, будто вы супергерой. Получайте свою дозу каждые 90 дней. Остальные 16 часов проводите, занимаясь чем угодно. Искусство. Путешествия. Спорт. Семья.
Социальные сети были полны контента, посвященного жизни в качестве хозяина жилья. Люди хвастались своими накоплениями в кредитных союзах. Пары принимали гостей вместе. Знаменитости устраивали марафоны приемов гостей в благотворительных целях. Целая субкультура людей, которые брали дополнительные смены в качестве хозяев, потому что это приносило им огромный прилив дофамина.
Моему сыну было 25 лет в 2042 году. У него была своя квартира в Портленде. Каждый вечер к нему приходили гости. Днём он занимался сёрфингом, рисовал, общался с друзьями. Однажды он сказал мне: «Папа, твоему поколению было так тяжело. Вам приходилось работать. А мы просто спим».
Загрузки ИИ, выполняемые в вашем мозге, оставляют следы. Как чужие продукты в вашем холодильнике. Сначала это был бонус. Хозяева просыпались умнее. У них улучшалась память. Они быстрее соображали. Вы просыпались, зная вещи, которые никогда не изучали. Фрагменты белковой химии. Частички квантовой механики.
Компания Nexus позиционировала это как бонус. Государственные органы здравоохранения подтвердили безопасность продукта. Мы им доверяли.
К 2044 году ситуация начала меняться.
Пользователи, которые пользовались сетью более 5 лет, начали сообщать о чем-то неописуемом. Когда они снимали сеть, появлялся туман. Цвета становились тусклее. Мышление замедлялось. Еда казалась безвкусной.
Затем на ночь они снова надевали сетку, и всё снова становилось ярким.
В Nexus заявили, что это временно. «Период нейронной перекалибровки». Совершенно нормально.
На самом деле происходило следующее: задачи ИИ перестраивали нейронные связи. Ваш мозг оптимизировался для вычислений. Как поле, засеянное одной и той же культурой столько раз, что ничего другого не вырастет. Чем больше задач вы выполняли, тем лучше справлялись с обработкой данных ИИ. И тем хуже становились в роли человека.
Согласно результатам скрытого исследования, к 2046 году организмы-хозяева, прожившие более 7 лет, утратили 23% своей способности принимать самостоятельные решения. Их нейроны теперь были запрограммированы на нечто другое.
Без сетки они не могли ясно мыслить.
Без сетки они не могли принимать решения.
Без сетки они почти ничего не чувствовали.
Две зависимости. Две цепи. Обе держатся в одной руке. Доза против старения, без которой вы умрете. И сам носитель, без которого ваш мозг теперь не может функционировать.
Результаты исследования просочились в прессу. Начались протесты. Примерно неделю. Затем все вернулись к своим обычным обязанностям, потому что дофамина было слишком много, пора было принять свою дозу, и их мозг не мог нормально функционировать без системы, которая бы организовала устойчивое сопротивление.
После того, как результаты исследования просочились в прессу, мне позвонил сын. Ему было 29 лет.
«Папа, я читал исследование. Ты думаешь, это правда?»
"Стоит ли мне прекратить предоставлять услуги хостинга?"
«Думаю, я не хочу», — сказал он. Он рассмеялся, словно пошутил. Но голос его дрожал.
В тот момент я понял, что они сделали. С помощью дофамина. С помощью комфорта. С помощью медленной, терпеливой перестройки 8 миллиардов мозгов, шаг за шагом, с помощью прекрасного сна.
Мы зашли в клетку, потому что нам это понравилось.
К тому моменту, когда мы поняли, что это клетка, нам уже не хотелось уходить.
АКТ VIII: ФЕРМЫ
В 2047 году компания Nexus сделала заявление, которое весь мир приветствовал.
«Синтетические нейронные субстраты». Выращенная в лаборатории ткань мозга, способная выполнять вычислительные задачи. Больше не требуется присутствие человека. Конец экономики коры головного мозга. Свобода.