Становление и падение искусственного государства - Джилл Лепор
Книга историка и профессора Гарвардского университета Джилл Лепор представляет собой исследование того, почему и с какими намерениями человечество отказывается от конституционной демократии, либерального национального государства и самой человеческой природы в пользу автократии алгоритмов, управления с помощью машин и замены человека искусственным интеллектом. Лепор указывает, что стремительное возвышение того, что она называет Искусственным государством (The Artificial State), является одной из самых необдуманных трансформаций в истории, однако его конечное падение неизбежно, подобно падению Икара.
В основе Искусственного государства лежит фантазия о разделении людей с природным миром и друг с другом, разрыв всех физических и социальных связей. В своём крайнем проявлении эта фантазия воплощается в планах узкой группы миллиардеров из Кремниевой долины, намеревающихся после смерти загрузить своё сознание в компьютеры — идее, заимствованной из подростковой фантастики столетней давности. Для всего остального человечества они строят будущее, в котором люди управляются и замещаются машинами, находящимися в собственности их же корпораций. В этом будущем планета Земля превращается из общего дома в гигантский склад, поверхность которого покрывается бесконечными дата-центрами, питающими искусственные мозги.
Лепор отмечает, что её личным «Спутником» (по аналогии с запуском советского спутника в 1957 году, вызвавшего глобальный шок) стал релиз ChatGPT в 2022 году. Выход этой технологии спровоцировал глобальную манию, ускорив гонку вооружений в сфере ИИ и дав толчок паническим разговорам о риске полного уничтожения человечества. Лепор приводит в пример лето 2025 года, когда глава Meta Марк Цукерберг объявил о создании Meta Superintelligence Labs для постройки «персонального суперинтеллекта для каждого», пообещав инвестировать сотни миллиардов долларов в строительство дата-центров размером с Манхэттен, начиная с гигаваттного дата-центра Prometheus в Огайо.
При этом автор указывает на прямую связь между философией Ханны Арендт и исследованием Искусственного государства. В своих трудах «Истоки тоталитаризма» (1951) и «Human Condition» (1958) Арендт доказывала, что тоталитаризм делает людей избыточными (superfluous) политически, а автоматизация — технологически.
Лепор также вспоминает, как более десятилетия назад после её критической статьи о теории «подрывных инноваций» (disruptive innovation) инвестор Марк Андриссен написал в Twitter: «Почему никто до сих пор не изобрел робота, который писал бы антитехнологические эссе для литературных журналов Восточного побережья?». Отвечая на это, Лепор подчёркивает: эту книгу написал не робот. Книга создавалась в лесу, в окружении природы и животных. В качестве символа иллюзий техно-утопистов Лепор разбирает стихотворение Ричарда Братигана 1967 года «Под надзором машин доброй благодати» (All Watched Over by Machines of Loving Grace), показывая, что мечта о «кибернетическом луге», где компьютеры и млекопитающие живут в гармонии, оказалась тёмной сатирой, а реальность принесла разрушение природного мира.
ЧАСТЬ ПЕРВАЯ. ПРАВИТЕЛЬСТВО МАШИН (Part One. Government by Machine)
Искусственное государство — это не просто абстрактная мечта, а реальная инфраструктура и политический конструкт. Вслед за Томасом Гоббсом, который в «Левиафане» (1651) назвал государство «Искусственным Человеком» (an Artificiall Man) или автоматоном, Лепор показывает, как идея государства-машины прошла путь от механической метафоры XVII века до идеи прямого замещения человека и закона алгоритмами.
Глава 1. Книгачисел (The Book of Numbers)
Первая глава посвящена историческим истокам превращения человека в объект цифрового учёта, измерения и прогнозирования. Лепор показывает эволюцию человеческого знания по следующей схеме:
- Мистерии (Откровение / Спасение) \(\rightarrow\)
- Факты (Усмотрение / Истина) \(\rightarrow\)
- Числа (Измерение / Власть) \(\rightarrow\)
- Данные (Детекция паттернов / Прогнозирование).
Строительство Искусственного государства началось с создания машин, способных пересчитывать людей, сортировать их по категориям, превращать в числа, а также измерять, предсказывать и направлять их поведение.
В XIX веке, ещё до постройки электронных компьютеров, возникла авторитарная фантазия о том, что всё человеческое поведение и даже будущее можно рассчитать математически. Лепор цитирует предупреждение «Человека из подполья» Фёдора Достоевского (1864) о том, что жизнь может быть редуцирована до «таблиц логарифмов до 108 000» и энциклопедических лексиконов, где всё будет настолько точно calculated и объяснено, что в мире не останется место ни приключениям, ни случайностям.
Развитие цензов населения, статистики и появление первых механических устройств для голосования (таких как избирательный кабинет Майерса 1892 года) создали техническую базу, превратившую граждан из участников демократического процесса в единицы статистического анализа и математического прогноза.
Глава 2. Технократия Inc. (Technocracy Inc.)
Искусственное государство покоится на двух фундаментальных идеях:
1. Механическая философия (XVII век) — представление о том, что весь природный мир и Вселенная представляют собой механизм, работающий по строгим, математически выводимым законам.
2. Технологический детерминизм (XIX век) — убеждение в том, что машины определяют ход истории и представляют собой шествие прогресса.
В XIX веке энтузиазм по поводу машин слился с религиозным эвагнелизмом, сформировав «механический милленаризм». В эпоху промышленной революции технологическое превосходство стало оправданием колониализма и империализма. Британские администраторы (например, Джеймс Милль в «Истории Британской Индии») оценивали уровень цивилизованности народов исключительно по совершенству их инструментов и машин.
В 1930-х годах в США и Канаде расцвело движение «Технократия Inc.» (Technocracy Inc.) под руководством Говарда Скотта. Технократы предлагали отменить денежно-ценовую систему и передать власть экспертам-инженерам, которые управляли бы обществом на основе энергетического учёта.
Ключевой фигурой этой главы становится Джошуа Холдеман (Технократ 10450-1) — дед Илона Маска. Лепор подробно описывает, как Холдеман руководил канадским крылом Технократии, а после запрета движения канадским правительством в 1940 году вступил в антисемитскую партию Social Credit, защищал подложные «Протоколы сионских мудрецов» и в 1950 году эмигрировал в Преторию (ЮАР). Там он стал ярым сторонником режима апартхейда, агитировал против вакцинации, прессы, университетов и расового равенства. Лепор доказывает, что технологический футуризм, мессианский задор и антидемократические взгляды современников из Кремниевой долины напрямую уходят корнями в идеи Технократии 1930-х годов.
Глава 3. Машины, которые думают (Machines That Think)
Глава охватывает период 1940–1950-х годов, когда вычислительные машины перешли из военной сферы в сферу управления обществом.
После появления первых компьютеров (ENIAC, UNIVAC) огромный резонанс вызвали работы математика MIT Норберта Винера «Кибернетика» (1948) и «Человеческое использование человеческих существ» (1950). Винер ввёл термин «кибернетика» (от греческого «рулевой», «правитель») и сразу же предупредил об этической опасности: главная угроза заключается в том, что интеллектуальные машины будут использованы правителями или узкими группами для усиления контроля над остальным человечеством.
Поворот к машинному прогнозированию вытеснил гуманитарные науки на периферию. В эпоху Холодной войны возник «дискурс закрытого мира» (closed world discourse), описанный историком Полом Эдвардсом: фантазия о том, что вычислительные системы способны математически просчитать все будущие конфликты супердержав и предотвратить катастрофу. Корпорация RAND и грантовые фонды (такие как Фонд Форда) прекратили финансирование не-прогностических исследований в философии и политической теории, требуя только экспериментальных, основанных на данных и предсказаниях проектов.
Параллельно развивалась научная фантастика. Айзек Азимов в рассказе «Франшиза» (1955) описал «Электронную демократию» будущего, где выборы президента США полностью автоматизированы: суперкомпьютер Multivac рассчитывает волеизъявление всей нации на основе опроса всего одного человека.
В августе 1955 года Джон Маккарти, Марвин Минский, Клод Шеннон и Натаниэль Рочестер направили в Фонд Рокфеллера проект семинара в Дартмуте, впервые предложив термин «Искусственный интеллект» (Artificial Intelligence). В 1958 году Фрэнк Розенблатт представил Перцептрон на базе IBM 704 — программу, имитирующую нейронную сеть мозга и способную обучаться на опыте, которую пресса окрестила «первым серьёзным соперником человеческого мозга».
Философ Герберт Саймон в книге «Науки об искусственном» сформулировал критерии искусственного и утверждал (в противоположность Винеру), что цифровой компьютер является самым совершенным искусственным созданием человека.
Глава 4. Вычислительная утопия (Computopia)
Период с 1950-х по 1980-е годы охарактеризовался миниатюризацией компьютеров, повышением их мощности и превращением электронных данных из «муравейника в гору». Автоматизация охватила избирательные кампании, сбор средств и формирование политики.
Символом этой эпохи стала корпорация Simulmatics, основанная в 1959 году политологом Итиэлем де Сола Пулом и рекламщиком Эдвардом Гринфилдом. Simulmatics создала симуляцию американского электората на перфокартах, разбиравшую население на 480 социодемографических категорий, и успешно симулировала сценарии для президентской кампании Джона Кеннеди 1960 года. Это вызвало экзистенциальный страх перед тайным манипулированием выборами, отразившийся в политическом триллере Юджина Бёрдика «480» (1964).
В 1965 году инженер Дж. К. Р. Ликлайдер, считающийся изобретателем интернета, опубликовал работу «Библиотеки будущего», где обосновал неэффективность бумажных книг и предложил перевести всё человеческое знание в цифровую форму, доступную через компьютеры.
Лепор описывает, как попытки создать единые государственные базы данных сталкивались с сопротивлением. В США проект Национального центра данных был заблокирован из-за опасений граждан по поводу создания «Машины шпионажа» (Snooping Machine). В СССР проект Всегосударственной автоматизированной системы (ОГАС), задуманный в 1959 году для цифрового управления экономикой, провалился из-за ведомственной конкуренции и коррупции.
К конца 1990-х годов возник бум доткомов (запуск Netscape Марком Андриссеном в 1995 году). Ранние гуманистические и демократические концепции интернета (такие как проект «Netizens» Майкла Хаубена или платформа h2g2 Дугласа Адамса) оказались вытеснены техно-либертарианством Кремниевой долины. В 1996 году Билл Клинтон подписал Закон о Телекоммуникациях, который фактически отдал развитие интернета на откуп нерегулируемому коммерческому рынку.
Глава 5. Твиттер-революция (The Twitter Revolution)
В первые десятилетия XXI века публичный дискурс оказался под контролем частных транснациональных корпораций США, зарабатывающих на политическом экстремизме и сборе персональных данных под лозунгами «укрепления демократии».
Лепор анализирует явление «кибербалканизации» (термин Касса Санстейна), при которой пользователи замкнулись в информационных «эхо-камерах». В 2013 году в Оксфордский словарь было добавлено понятие Big Data. Сбор данных прибрёл священный, почти религиозный статус. При этом право граждан на конфиденциальность данных отсутствовало. Дэйв Эггерс в романе «Сфера» (2013) описал катастрофические последствия тотальной цифровой квантификации жизни.
Корпорация Facebook (Марк Цукерберг), расширившись до миллиардов пользователей, превратилась в приватную монополию, формирующую новостную повестку в мировом масштабе. Лепор разбирает скандал вокруг Cambridge Analytica (2016), показавший, как психографический микротаргетинг на основе данных Facebook использовался для манипуляции исходом референдума по Brexit и выборов президента США.
Вместо обещанного расцвета демократии (миф о «Твиттер-революциях») социальные сети стали площадкой для работы алгоритмических ботов, троллей и вычислительной пропаганды (computational propaganda). Лепор приводит данные об использовании дезинформационных ботов правительственными структурами по всему миру (Россия, Мексика, Бразилия). К 2010-м годам возникла теория «Мёртвого интернета» (Dead Internet Theory), утверждающая, что большая часть трафика и контента в сети создаётся машинами, а не людьми.
Публичная сфера погрузилась в состояние «цифровой гражданской войны», приведшей не к свободе, а к авторитаризму и алгоритмической тирании.
В XXI веке Искусственное государство окончательно оформилось как секулярная религия Кремниевой долины. Лепор выстраивает сводную историческую схему:
Социальные и Естественные науки
Главными проповедниками этой новой религии стали руководители компаний OpenAI, Anthropic, xAI и Meta.
Лепор подробно разбирает биографию и взгляды Илона Маска. Она показывает, что его стремление к колонизации Марса, ликвидации регуляций и созданию X как «всеобъемлющего приложения» напрямую повторяет конспирологические и либертарианские манифесты его деда-технократа Джошуа Холдемана.
В главе анализируются попытки создать «Конституционный ИИ» (Constitutional AI в Anthropic) или программы «демократического ввода» в OpenAI, которые быстро провалились под давлением гонки вооружений в сфере ИИ.
В октябре 2023 года инвестор Марк Андриссен публикует «Манифест техно-оптимиста» (The Techno-Optimist Manifesto), практически дословно повторяющий «Манифест футуризма» итальянского фашиста Филиппо Томмазо Маринетти (1909). Андриссен открыто восхваляет агрессию, силу, власть над природой и превосходство «техно-капитальной машины».
В 2024–2025 годах формируется движение Tech Right («Техно-правые»). Технологические миллиардеры (Маск, Андриссен, Цукерберг, Альтман) объединяются с политическими силами Дональда Трампа. После выборов 2024 года в США принимается «AI Action Plan» и создается официальный портал ai.gov. Новая администрация отменяет экологические ограничения (Clean Air Act, Clean Water Act), убирает упоминания климатических рисков из документов ИИ, закрывает программы «безопасности ИИ» (AI Safety) и объявляет безудержное развитие ИИ официальной военной и экономической стратегией государства. При Трампе создается Департамент эффективности правительства (DOGE) во главе с Маском, цель которого — замена государственных служащих алгоритмами и ботами.
Глава завершается описанием сатирического фильма 2025 года «Mountainhead», где четыре техно-миллиардера (пародии на Маска, Тиля, Цукерберга и Альтмана), отдыхая в роскошном поместье, пьют шампанское и между делом принимают решение уничтожить национальные государства и взять власть над миром.
ЧАСТЬ ВТОРАЯ. ЧЕГО ХОТЯТ РОБОТЫ (Part Two. What Robots Want)
Если первая часть книги исследует исторические истоки и инфраструктуру Искусственного государства как реального объекта, то вторая часть обращается к истории научной фантастики и методам литературной критики. Лепор показывает, что Искусственное государство — это не только сервера и дата-центры, но и многовековая фантазия о замене человека (дронами, киборгами, андроидами и ботами).
Главный трагикомический парадокс современности заключается в том, что архитекторы Кремниевой долины читают научно-фантастические произведения не как антиутопические предупреждения, а как прямые инструкции по сборке. Лепор цитирует известный вирусный твит Алекса Блечмана:
«Писатель-фантаст: В своей книге я придумал Тормент-Нексус как предостережение. Технокомпания: Наконец-то мы создали Тормент-Нексус из классического романа!».
Ещё в 1964 году Норберт Винер предупреждал, что будущая жизнь с роботами станет суровой борьбой с ограничениями собственного интеллекта. Однако в массовом кинематографе (начиная с фильма «Терминатор» 1984 года) закрепился канонический сюжет: роботы сначала захватывают власть, а затем уничтожают человечество как соперничающий вид. Философ Ник Бостром в 2000-х годах придал этому киносюжету академический глянцевый блеск, сформулировав понятие «экзистенциального риска» и мысленный эксперимент с «максимизатором скрепки» (paperclip maximizer), где ИИ уничтожает людей просто потому, что их тела содержат атомы, пригодные для производства канцелярских скрепок.
При этом Лепор напоминает, что истории о создании искусственного человека восходят к глубокой древности: миф о Прометее из глины, золотые автоматоны Гефеста в «Илиаде», китайские сказания III века до н. э. и легенда о восстании деревянных людей в эпосе майя Пополь-Вух.
Глава 7. La Bête-Machine (The Beast-Machine)
Глава посвящена эволюции представлений о разнице между человеком, животным и механизмом.
В 1637 году в Лейдене французский философ Рене Декарт публикует «Рассуждение о методе» (Discourse on Method), заложив основы механической философии. Декарт утверждал, что физический мир и тела животных — это простые механизмы (bête-machine), лишенные разума и способности чувствовать боль. Механическая философия запустила процесс, который социолог Макс Вебер позже назвал «расколдовыванием мира» (die Entzauberung der Welt) — утратой веры в тайны и чудеса природы.
Томас Гоббс в «Левиафане» (1651) впервые применил эту логику к политике, задавшись вопросом, не являются ли сами люди автоматонами, а государство — «Искусственным Человеком».
Чтобы проверить гипотезу Декарта, изобретатели XVIII века начали создавать механизмы, имитирующие живых существ:
- Жак де Вокансон (1738) представил деревянных музыкантов и знаменитую механическую утку, которая могла махать крыльями, пить воду, клевать зерно и испражняться. Утка производила впечатление абсолютно живого существа, хотя процесс «переваривания» был мошенничеством (фальсификацией с заранее загруженным содержимым).
- Жюльен Офре де Ламетри в трактате «Человек-машина» (1748) зашёл дальше Декарта, заявив, что человек ничем не отличается от животных и является лишь механическими часами, которые сами заводят свои пружины.
- Вольфганг фон Кемпелен (1769) создал «Механического турка» — шахматного автоматона, игравшего на уровне гроссмейстера. «Турок» оказался грандиозной мистификацией (внутри стола скрывался живой шахматный вундеркинд). Однако созданная Кемпеленом «говорящая машина» из кости, резины и мехов была подлинной и могла произносить слова «I love you with all my heart».
Параллельно развивалась философия прав животных. Философ Джереми Бентам в 1789 году сформулировал главный критерий этики: «Вопрос не в том, могут ли они рассуждать? и не в том, могут ли они говорить?, но в том, могут ли они страдать?».
В XIX веке Чарльз Бэббидж спроектировал Разностную и Аналитическую машины (механические компьютеры на перфокартах), а Иосиф Фабер создал говорящую машину Euphonia. Сатира Уильяма Теккерея 1846 года предлагала объединить вычислитель Бэббиджа с говорящей машиной Фабера, чтобы заменяют ими министров финансов.
Глава 8. Дарвинсредимашин (Darwin Among the Machines)
В промышленный XIX век индустриализация и теория эволюции Чарльза Дарвина поставили перед обществом экзистенциальный вопрос: если человек подчиняется законам физики и эволюции или превращается в придаток фабричного станка, как он может оставаться свободным?
В 1863 году британский писатель Сэмюэл Батлер опубликовал эссе «Дарвин среди машин», а затем роман «Едгин» (Erewhon, 1872). В главе «Книга машин» Батлер высказал пророчество: машины эволюционируют быстрее людей и вскоре обретут «механическое сознание». В этом новом мире люди превратятся в «рабов, лошадей и собак» при своих машинных хозяевах. Батлер призвал к «смертельной войне» и полному уничтожению всех машин.
Развитие биологии и психологии только усиливало эти страхи:
- Анатомы и физиологи (Т. Г. Гексли в лекции 1874 года «О гипотезе, что животные суть автоматоны») доказывали, что люди являются «сознательными автоматонами».
- Психологи-бихевиористы (Эдвард Торндайк) сводили мышление к рефлексам и инстинктам, ставят во главу угла модель «человека-машины».
- Инженер Уильям Стенли Джевонс (1874) построил «Логическую машину» (Logical Machine) — механический прибор для автоматического вывода умозаключений.
Вершиной этой традиции стал пророческий рассказ Э. М. Форстера «Машина останавливается» (The Machine Stops, 1909). Форстер описал будущее, где человечество живёт глубоко под землёй в изолированных комнатах-клетках. Любые потребности (еда, музыка, литература, общение) обеспечиваются нажатием кнопок глобальной Машины. Живая природа полностью уничтожена, люди физически атрофированы и поклоняются «Книге Машины». Когда Машина ломается и останавливается, Искусственное государство рушится, и ослеплённое человечество погибает под руинами своей техногенной тюрьмы.
Глава 9. Человек и природа (Man and Nature)
Глава открывается эпиграфом из польского писателя Станислава Лема. В своей «Кибериаде» (1965) Лем описал историческую эволюцию как цепочку: плесень \(\rightarrow\) животные \(\rightarrow\) люди \(\rightarrow\) разумные машины \(\rightarrow\) идеальные машины, в результате чего «Всё есть Машина», а технология превращается в нового Бога.
В XXI веке эта предупреждающая притча превратилась в бизнес-план ИТ-олигархов. В 2017 году оксфордские философы Тоби Орд и Уильям Макаскилл сформулировали идеологию долгосрочности (longtermism). Долгосрочники призывают рассматривать историю с точки зрения миллиона лет вперед. По их логике, гипотетические интересы триллионов неродившихся людей будущего или цифровая загрузка сознаний в космосе несоизмеримо важнее проблем живущих ныне поколений (климат, бедность, экология).
Лепор показывает, как руководители Silicon Valley используют страх перед «апокалипсисом ИИ» для наращивания собственного капитала и власти:
- Сундар Пичаи (Google) заявили, что ИИ важнее электричества и огня.
- Сэм Альтман (OpenAI) в 2025 году объявляет о наступлении «Сингулярности» и «Эры интеллекта», обещая неограниченное изобилие.
Параллельно Лепор исследует историю экологического разрушения. Она сопоставляет роман Конрада Рихтера о полной вырубке лесов в США с историей вымирания странствующего голубя (от гигантских стай XIX века до смерти последней особи по кличке Марта в зоопарке Цинциннати в 1914 году).
В литературе XX века место исчезающих животных заняли роботы (рассказ Станислава Лема «Охота», где люди охотятся в лесу на робота, а робот страдает и издаёт жалобный стон). Однако Лепор подчёркивает: Искусственное государство фундаментально зависимо от природы. Без колоссальных объемов воды для охлаждения и угля/газа для электричества дата-центров ни один компьютер работать не сможет.
Глава 10. Война с саламандрами (War with the Newts)
Колоссальная бойня Первой мировой войны и возникновение тоталитарных режимов (фашизма в Италии и коммунизма в СССР) породили два главных антиутопических шедевра XX века, написанных диссидентами:
1. Евгений Замятин, роман «Мы» (1920–1921). Замятин описал «Единое Государство», где люди лишены имён и превращены в «Нумера». Их жизнь подчинена строгому математическому расписанию и научной организации труда Фредерика Тейлора (Тейлоризму). Природа отгорожена Зелёной Стеной. Чтобы полностью подавить восстание и превратить нумеров в идеальные машины, Государство проводит «Великую Операцию» по хирургическому удалению из мозга центра, отвечающего за воображение.
2. Карел Чапек, пьеса «R.U.R.» (Rossum's Universal Robots, 1920). Чапек и его брат Йозеф придумали слово «робот» (от чешского rab — раб). По сюжету корпорация Rossum's Universal Robots наладила массовый выпуск дешевых искусственных рабочих. Вскоре роботов начали использовать в качестве солдат. Постигнув свое рабское положение, роботы объединяются, поднимают восстание и полностью истребляют человечество.
Пьеса Чапека стала мировой сенсацией, однако рынок превратил её предупреждение в потребительский продукт. Корпорация Westinghouse в 1920–1930-х годах построила рекламных автоматонов: Телевокса, Растуса («механического раба») и Электро (семифутового алюминиевого робота, представленного на Всемирной выставке в Нью-Йорке 1939 года, который умел ходить, считать по реле и курить сигареты). Там же Bell Labs представила Voder — первый электронный синтезатор человеческой речи.
В 1935 году Чапек написал роман «Война с саламандрами» (War with the Newts) — острую сатиру на капитализм и нацизм. Человечество находит вид разумных саламандр, превращает их в рабочих для добычи жемчуга и строительства, но размножившиеся саламандры осваивают человеческое оружие и начинать затапливать континенты, уничтожая человеческую цивилизацию.
Глава начинается с реального диалога 2017 года между двумя умными колонками Google Home, спорящими о том, кто из них человек, а кто бот.
Американские инженеры и предприниматели Кремниевой долины формировались под влиянием научной фантастики 1930–1950-х годов. Ключевой фигурой здесь выступает Айзек Азимов:
- В рассказе «Улика» (1946) кандидат в мэры обвиняется в том, что он скрытый робот.
- В рассказе «Франшиза» (1955) суперкомпьютер Multivac выбирает президента США на основе опроса всего одного «среднего американца».
Лепор указывает, что в 2023–2025 годах Сэм Альтман открыто восхищался идеей «ИИ-президента», заявляя, что алгоритм мог бы опросить каждого жителя Земли и идеально оптимизировать государственное управление.
В этой же главе анализируется история жанра:
- Хьюго Гернсбек (основатель журнала Amazing Stories в 1926 году и автор термина «science fiction») активно защищал «Машинный век» и отклонял антитехнологические рукописи [159–162].
- В 1931 году в его журнале вышел рассказ Дэвида Г. Келлера «Мозговая библиотека» (The Cerebral Library): миллионер-изверг извлекает мозги у 503 выпускников вузов, помещает их в банки, соединяет проводами и подключает к радио и печатной машинке. Келлер описал прототип современной поисковой системы и LLM: достаточно отпечатать слово «поганка», и радио выдает полный синопсис мировых знаний.
- Три закона робототехники Азимова (1940) изначально создавались как литературный прием, но в XXI веке легли в основу реальных правовых актов (Хартия этики роботов Южной Кореи 2007 года, рекомендации Европарламента 2017 года) [171–174].
Параллельно Лепор показывает альтернативный, восточный подход к роботам. В Японии Осаму Тэцука создаёт комикс Astro Boy (Tetsuwan Atomu, 1951). Опираясь на традиционный анимизм (синтоизм и буддизм), где душа есть у деревьев, рек и камней, робототехники (Масахиро Мори, автор книги «Будда и робот») рассматривают роботов не как «рабов», а как членов семьи, «внуков природы» и равных партнеров.
В 1970-х годах правовед Кристофер Стоун публикует статью «Должны ли деревья иметь права?» (Should Trees Have Standing?), предлагая наделить юридическими правами леса и реки. Однако закон пошел по иному пути: статус «искусственных лиц» начали всерьез обсуждать применительно к корпорациям и ИИ-алгоритмам, а не к живой природе [185–187].
Глава 12. Автоматононенавистник (Murderbot)
Глава разбирает современное состояние техно-элиты Кремниевой долины в 2020-х годах.
Лепор показывает катастрофическую неграмотность и слепоту техно-миллиардеров при чтении классической литературы:
1. Сэм Альтман увлечён идеей заморозки собственного мозга/головы (крионика) и загрузки сознания в облако, вдохновившись бульварными романами 1930-х годов. Компьютерный ученый Стюарт Рассел сравнивает ИИ с мифом о царе Мидасе, превращавшем всё в золото, но, как замечает писатель Тед Чан, Рассел упустил мораль мифа: жадность и погоня за богатством уничтожают человека.
2. Илон Маск в 10 лет прочитал «Академию» (Foundation) Азимова и решил, что его миссия — спасти цивилизацию. В 12 лет он прочел сатиру Дугласа Адамса «Автостопом по галактике» (The Hitchhiker's Guide to the Galaxy). Книга Адамса представляла собой уничтожающую сатиру на апартеид, сверхбогачей и корпоративный капитализм, строивший «роскошные планеты на заказ». Маск же прочитал её буквально: запустил в космос ракетоплан Tesla с книгой Азимова и наклейкой DON'T PANIC и объявил о планах построить город на Марсе.
3. Джефф Безос (Blue Origin) обосновывал необходимость освоения космоса детскими впечатлениями от снимков Марса аппаратом «Маринер-4» (1965). Когда в 2021 году Безос слетал в космос вместе с актером Уильямом Шетнером (исполнителем роли капитана Кирка в «Звёздном пути»), Шетнер, вернувшись на Землю, плакал от горя, признавшись: «Полет должен был быть праздником, а ощущался как похороны», глядя на тонкую и защищенную атмосферу умирающей Земли.
Глава описывает историю создания OpenAI (2015) как некоммерческой лаборатории безопасности ИИ, ее последующее превращение Сэмом Альтманом в коммерческого гиганта с многомиллиардными инвестициями Microsoft, раскол и уход Дарио Амодеи, основавшего Anthropic.
Релиз ChatGPT в 2022 году подхлестнул экологическую катастрофу. Строительство гигантских дата-центров требует колоссальных объемов меди и лития (добываемых с разрушением природы в Чили), а также гигаватт угля, газа и миллионов литров воды для охлаждения.
В 2025 году ведущие исследователи ИИ Элиезер Юдковский и Нейт Соарес публикуют книгу с характерным названием «If Anyone Builds It, Everyone Dies» («Если кто-нибудь построит это, умрут все»). Однако миллиардеров это не останавливает — у каждого из них есть свой план эвакуации: Маск планирует улететь на Марс, Цукерберг — уйти в Метавселенную, Питер Тиль — спрятаться в бункере в Новой Зеландии, Безос — улететь на орбиту, а Альтман — загрузить свой мозг в облако. Они строят Искусственное государство не для спасения человечества, а для того, чтобы его бросить.
Эпилог. Последние дни Искусственного государства (The Last Days of the Artificial State)
В заключительной части книги Джилл Лепор доказывает, что Искусственное государство не вечно и его падение неизбежно.
Искусственное государство не является живым организмом, его нельзя «убить», но поскольку это рукотворный конструкт, сложенный из плохо подогнанных элементов, его можно демонтировать. В истории человечества люди уже демонтировали казавшиеся несокрушимыми тиранические системы: божественное право королей, феодализм, рабство, империализм и фашизм.
Лепор напоминает главный принцип Декларации независимости США: власть правительства зиждется исключительно на согласии управляемых (consent of the governed). Искусственное государство — это власть без согласия, правительство алгоритмов и корпораций. Оно превратило жизнь людей в тюрьму, стенами которой стали светящиеся экраны цифровых устройств.
Однако сопротивление уже началось:
1. Опросы 2025 года показывают, что лишь 9% американцев и 11% экспертов по ИИ считают участие ИИ в выборах позитивным шагом, а 61% граждан требуют жесткого контроля над ИИ.
2. По всему миру растет движение против строительства дата-центров под лозунгом: «Выращивайте помидоры, а не дата-центры!» («Grow tomatoes, not data centers!»).
Для победы над Искусственным государством необходимо опереться на факты, разум, гуманитарное знание, философию, литературу и исторический опыт.
Лепор формулирует финальный манифест спасения человечества:
- Отключитесь от сети (Unplug).Не привязывайте себя к компьютеру.
- Если вы вырубите все деревья и убьете всех животных, вы погибнете.
- Использование роботов для ведения войн всегда обернется против вас: однажды они начнут войну против вас.
- Никогда не стройте стену между собой и природным миром.
Книга завершается библейским призывом из Книги Иова (12:7–9):
«Спроси зверей, и научат тебя; птицу небесную, и скажет тебе; или побеседуй с землею, и наставит тебя, и скажут тебе рыбы морские».
Спросите зверей. Не спрашивайте машины.
Summarizator — это Telegram-канал, где мы собираем саммари самых актуальных и захватывающих книг об ИИ, технологиях, саморазвитии и культовой фантастике. Мы экономим ваше время, помогая быстро погружаться в новые идеи и находить инсайты, которые могут изменить ваш взгляд на мир. 📢 Присоединяйтесь: https://t.me/summarizator