***

Сюжеты нескольких популярных сериалов последних лет вертятся вокруг убежищ, в которых избранная часть человечества переживает глобальную катастрофу.

Чаще всего такой схрон изображается в виде огромного укреплённого бункера со всеми удобствами — как, например, в снятом по видеоиграм «Fallout», перегруженном прямолинейными метафорами «Silo», порченном diversity-повесткой «Paradise» и провинциально лубочном «El refugio atómico». Убежище может выглядеть и как ноев ковчег — к примеру, орбитальная станция в «The 100» или носящийся по замёрзшей планете пассажирский поезд «Snowpiercer».

Важный элемент всех этих историй — лживость строителей убежищ. До зрителей разными способами доводят мысль: даже если вас не скормят апокалипсису, причина вашего спасения будет отличаться от заявленной, и когда вы выясните правду, она вам не понравится. Представление о патологически лживых элитах легко проецируется на повседневную жизнь аудитории, что добавляет сериалам рейтинга.

Ну а меня больше всего увлекает эволюция фолк-эсхатологии.

В классических историях — см. «The Terminator», «Deep Impact», «The Day After Tomorrow», «2012», «12 Monkeys», а также бесконечное количество зомби-слэшеров — армагеддон происходит быстро и бывает вызван либо природными катаклизмами (вулкан, метеорит, фокусы магнитного поля планеты), либо техногенными катастрофами (взбесившийся ИИ, просочившиеся из лаборатории вирусы, эксперименты с погодой). Причину случившегося даже не всегда объясняют (см. «The Road»), поскольку всё дело во внезапности, а технические детали зритель может додумать сам.

В такой схеме апокалипсис не заложен в общественное устройство, он приходит извне. Дела у общества идут хорошо, но вдруг происходит нечто грандиозное и необоримое — и всё валится. До недавнего времени люди верили в эффективность общественных механизмов, в их способность к эволюции и адаптации, а следовательно, в то, что коллапс системы мог произойти только из-за внесистемных причин.

Ситуация изменилась, и лучшие из перечисленных выше сериалов отражают это изменение в массовом сознании. Люди перестали доверять Системе, и страх пришедшей извне катастрофы стал вытесняться страхом того, что катастрофа заложена в саму логику Системы.

У футурологов есть такой термин: civilizational lock-in, «цивилизационная блокировка». Это когда цивилизация застревает в плохой траектории развития, ведущей к неизбежной гибели. Ответственны за всё, разумеется, технологии.

Общественный прогресс всегда имел глубоко дарвинистскую природу и основывался на закреплении «мутаций», т.е. моделей поведения, девиантных по отношению к текущей норме. Какой бы стабильной ни была социальная структура, всегда находились те, кто мог её перестроить. Этот процесс никогда не бывал приятным и порой приводил к локальным цивилизационным провалам, но общество, шарахаясь в разных направлениях, в конечном итоге нащупывало работающую модель развития — пока очередные девианты не разрушали статус-кво.

Таким образом общество не просто выживало, но и развивалось. Во второй половине прошлого века стало казаться, что человечество вышло на финишную прямую, в конце которой уже начали явственно просматриваться всеобщее благоденствие и пляжный отпуск на Проксиме Центавра. Вот только научимся общаться, не сжимая за спиной дубину — и ничто нас не остановит.

Однако случилось нечто иное: развитие информационных технологий породило глобальный технологический авторитаризм. Рынки превратились в крышуемые техно-монополистами базары. Глобальная мобильность уничтожается новопостроенными границами. Либеральные институты выродились в органы контроля. Двоемыслие стало мейнстримом, и свобода подавляется под лозунгом борьбы за свободу.

Любая девиация в такой системе отслеживается и пресекается в зародыше, что делает невозможной общественно-политическую эволюцию. Политические «элиты» превращаются в толпу статистов, произносящих одинаковые реплики. Те, кто способен опрокинуть этот порядок, не перевелись — но их оперативно выявляют и нейтрализуют задолго до появления у них возможности что-либо опрокинуть.

Технологии выключили общественный прогресс — это и есть тот самый lock-in, заменивший в коллективных эсхатологических фантазиях супервулканы и супервирусы.

Искусственный интеллект вписывается в эту картину, как родной. И риск тут совсем не в том, что «Скайнет» решит уничтожить докучающее ему человечество. Такой вариант не исключён, но фундаментальная проблема в другом.

Впервые в своей истории человечество создало инструмент, результат работы которого недетерминирован. До сих пор всё, что делали люди, от лопаты до коллайдера, действовало по некоему предопределённому алгоритму: набор команд на входе давал предсказуемый результат на выходе. Алгоритмы ИИ тоже детерминированы, но продукт работы этих систем от алгоритмов уже не зависит: из-за заложенной в систему стохастичности результат на выходе непредсказуем. Никогда нельзя быть уверенным, какие именно данные и в какой комбинации эта штука использует, и какую конструкцию в итоге соберёт. Убрать стохастичность нельзя: именно она (не вполне понятным нам образом) даёт возможность программе «думать» и общаться по-человечески.

Так что теперь у нас есть инструмент, который мы не можем контролировать. А поскольку речь идёт о замкнутой системе — если мы не контролируем инструмент, он контролирует нас. Сейчас он работает с информацией, живя в виртуальной вселенной, но уже вовсю тестируются роботы, управляемые ИИ. Результаты пока не очень впечатляют: системы эти довольно долго обучаются, что делает их несколько беспомощными в реальном мире. Но это проблема технологическая, а значит — решаемая.

Теряя контроль над своими инструментами, люди вынужденно доверяют им. В итоге армагеддон окажется последовательностью рационально выглядящих действий, которые на выходе дадут содом с гоморрой, поскольку действия эти будут основаны не на человеческом здравом смысле, инстинкте самосохранения и иррациональной, но надёжной «чуйке» — а на абстрактных фантазиях. Это может начаться, например, с попытки оптимизировать экономику, пользуясь советами ИИ. Экономический коллапс в сочетании с отключёнными механизмами социальной эволюции — это практически неизбежный закат цивилизации, без ядерных грибов и прочей жути.

Таким образом, апокалипсис — это не событие, а процесс, и судя по всему, он уже начался. Цивилизации придётся умереть, чтобы возродиться заново. У меня есть сильнейшее подозрение, что в истории этой планеты такое уже случалось, и наши неолитические предки передавали из поколения в поколение ценнейшую реликвию, жестянку с оттиснутыми на ней небоскрёбами, которые они пытались воспроизвести, устанавливая каменные столбы, пока жестянка окончательно не раскрошилась.

Впрочем, на наш век интернета, горячей воды, самоходных повозок и волнующих сериалов, скорей всего, хватит. Можно ли желать большего?

Отец Гиперсемиотий
Арт Снежинка (Владимир Цеслер)