Инженерная реальность. Век культурного контроля: от монополий Эдисона до алгоритмических манипуляций. Часть 3.

Перевод статьи Джошуа Стайлмана, опубликованной на Substack

В первой части мы рассмотрели основополагающие системы контроля, созданные в начале XX века. Во второй части мы изучили, как эти методы развивались в рамках массовой культуры и контркультурных движений. Наконец, в третьей части ниже мы рассмотрим, как эти методы были автоматизированы и усовершенствованы с помощью цифровых систем.

Часть III: Эпоха алгоритмов

https://stylman.substack.com/p/engineering-reality-part-iii

Изучив физические и психологические механизмы контроля в первой части и их применение с помощью культурной инженерии во второй части, мы переходим к их окончательной эволюции: автоматизации контроля сознания с помощью цифровых систем.

В своём исследовании, посвящённом техно-промышленному комплексу, я задокументировал, как сегодняшние цифровые гиганты были не просто поглощены властными структурами — многие из них с самого начала были созданы как инструменты для массовой слежки и социального контроля. От Google, основанного на проекте ЦРУ, финансируемом DARPA, до основателя Amazon, связанного родственными узами с ARPA, — это были не просто успешные стартапы, которые позже стали служить государственным интересам.

То, что Тавистокский институт открыл в результате многолетних тщательных исследований, — эмоциональный резонанс важнее фактов, влияние сверстников перевешивает авторитет, а косвенная манипуляция успешна там, где прямая пропаганда терпит неудачу, — теперь формирует основополагающую логику алгоритмов социальных сетей. Исследование Facebook по манипулированию эмоциями и A/B-тестирование миниатюр Netflix (подробно рассмотренное далее) являются примерами цифровой автоматизации этих открытий, сделанных столетие назад, поскольку системы искусственного интеллекта проводят миллиарды экспериментов в реальном времени, постоянно совершенствуя искусство влияния в беспрецедентных масштабах.

Подобно тому, как Лорел-Каньон служил физическим пространством для управления культурой, современные цифровые платформы функционируют как виртуальные лаборатории для контроля сознания, охватывая более широкие аудитории и работая с гораздо большей точностью. Платформы социальных сетей масштабируют эти принципы с помощью «инфлюенсеров» и показателей вовлечённости. Открытие того, что косвенное влияние эффективнее прямой пропаганды, теперь определяет то, как платформы тонко настраивают видимость контента. То, что раньше требовало многолетних тщательных психологических исследований, теперь можно тестировать и оптимизировать в режиме реального времени, а алгоритмы используют миллиарды взаимодействий для совершенствования своих методов влияния.

Манипуляции с музыкой отражают более широкую эволюцию культурного контроля: то, что начиналось с локального программирования, например, эксперименты Лорел Каньон в контркультуре, теперь превратилось в глобальные системы, управляемые алгоритмами. Эти цифровые инструменты автоматизируют те же механизмы, формируя сознание в беспрецедентных масштабах

Подход Netflix к работе с контентом напоминает принципы манипуляции Бернейса в цифровой форме — что, возможно, неудивительно, поскольку соучредитель Марк Бернейс Рэндольф был внучатым племянником Эдварда Бернейса и правнучатым племянником Зигмунда Фрейда. Там, где Бернейс использовал фокус-группы для тестирования сообщений, Netflix проводит масштабное A/B-тестирование миниатюр и заголовков, показывая разным пользователям разные изображения в зависимости от их психологических профилей. Их алгоритм рекомендаций не просто предлагает контент — он формирует модели просмотра, контролируя видимость и контекст, подобно тому, как Бернейс организовывал комплексные рекламные кампании, которые формировали общественное мнение по нескольким каналам. Подобно тому, как Бернейс понимал, как создать идеальную среду для продажи товаров — например, рекламируя музыкальные комнаты в домах, чтобы продавать пианино, — Netflix создаёт персонализированные интерфейсы, которые направляют зрителей к определённому контенту. Их подход к созданию оригинального контента также основан на анализе массовых психологических данных для создания сюжетов для конкретных демографических сегментов.

Более коварная стратегия Netflix в отношении контента активно формирует общественное сознание посредством выборочного продвижения и сокрытия контента. В то время как фильмы, поддерживающие нарративы истеблишмента, получают видное место на платформе, документальные фильмы, ставящие под сомнение официальные версии, часто оказываются в наименее заметных категориях платформы или вовсе исключаются из алгоритмов рекомендаций. Даже такие успешные фильмы, как «Что такое женщина?», систематически подавлялись на нескольких платформах, демонстрируя, как цифровые «привратники» могут эффективно устранять противоречивые точки зрения, сохраняя иллюзию открытого доступа.

Я на собственном опыте столкнулся с этой цензурой. Мне посчастливилось быть продюсером фильма «Анекдотические истории» режиссёра Дженнифер Шарп, в котором рассказывается о травмах, полученных после вакцинации от COVID-19, в том числе о её собственных. YouTube удалил его в первый же день, заявив, что люди не могут обсуждать свой собственный опыт вакцинации. Фильм был восстановлен только после вмешательства сенатора Рона Джонсона — показательный пример того, как цензура на платформах подавляет личные истории, которые противоречат официальным данным.

Эта система контроля распространяется на весь цифровой ландшафт. Контролируя, какие документальные фильмы выходят на первый план, какие иностранные фильмы попадают на экраны американских кинотеатров и какие точки зрения освещаются в их оригинальных программах, такие платформы, как Netflix, выступают в роли культурных «привратников» — точно так же, как Бернейс управлял общественным мнением своих корпоративных клиентов. В то время как более ранние системы полагались на «привратников»-людей для формирования культуры, стриминговые платформы используют аналитику данных и алгоритмы рекомендаций для автоматизации управления сознанием. Контент-стратегия и системы продвижения платформы представляют собой принципы психологических манипуляций Бернейса, действующие в беспрецедентных масштабах.

Реалити-шоу: Конструирование Личности

До того, как социальные сети превратили миллиарды людей в создателей собственного контента, реалити-шоу создали шаблон для превращения себя в товар. Кардашьяны стали примером такого перехода: превратившись из звёзд реалити-шоу в инфлюенсеров цифровой эпохи, они показали, как превратить личную аутентичность в продаваемый бренд. Их шоу не просто изменило общественные нормы, связанные с богатством и потреблением, — оно стало мастер-классом по отказу от подлинного человеческого опыта в пользу тщательно продуманного представления. Аудитория поняла, что быть собой менее ценно, чем быть брендом, что аутентичные моменты имеют меньшее значение, чем искусственно созданный контент, что реальные отношения вторичны по сравнению с сетевым влиянием.

Эта трансформация личности в персону достигнет своего апогея в социальных сетях, где миллиарды людей добровольно участвуют в изменении своего поведения. Пользователи учатся подавлять искреннее самовыражение в пользу алгоритмических вознаграждений, фильтровать реальный опыт через призму потенциального контента, оценивать себя не по внутренним критериям, а по количеству лайков и репостов. То, что впервые появилось в реалити-шоу, — добровольный отказ от конфиденциальности, замена подлинной личности коммерчески выгодным образом, превращение жизни в контент — социальные сети демократизируют в глобальном масштабе. Теперь любой желающий может стать участником собственного реалити-шоу, обменяв подлинность на вовлеченность.

Instagram олицетворяет собой эту трансформацию, приучая пользователей рассматривать свою жизнь как контент, который нужно отбирать, свой опыт — как возможности для фотографий, а свои воспоминания — как истории, которыми можно поделиться с публикой. Экономика «инфлюенсеров» на платформе превращает реальные моменты в маркетинговые возможности, обучая пользователей менять своё поведение — куда они ходят, что едят, как одеваются — чтобы создавать контент, который алгоритмы будут вознаграждать. Это не просто обмен жизнью в интернете — это изменение самой жизни, чтобы она соответствовала цифровому рынку.

По мере того, как эти системы становятся всё более распространёнными, их ограничения становятся всё более очевидными. Те же инструменты, которые позволяют манипулировать культурными течениями, также демонстрируют свою уязвимость, поскольку аудитория начинает бросать вызов манипулятивным нарративам.

Трещины в системе

Несмотря на свою изощрённость, система контроля начинает давать сбои. Всё чаще общественность выступает против явных попыток культурной инженерии, о чём свидетельствуют нынешние потребительские и электоральные протесты.

Недавние попытки очевидной культурной эксплуатации, такие как корпоративные маркетинговые кампании и нарративы, ориентированные на знаменитостей, начали терпеть неудачу, что свидетельствует о поворотном моменте в отношении общества к манипуляциям. Когда Bud Light и Target — компании с собственными глубокими связями в истеблишменте — столкнулись в 2023 году с массовой негативной реакцией потребителей на свои кампании в социальных сетях, скорость и масштабы отказа от них ознаменовали значительный сдвиг в поведении потребителей. Крупные инвестиционные компании, такие как BlackRock, столкнулись с беспрецедентным сопротивлением инициативам ESG, столкнувшись со значительным оттоком средств, что вынудило их пересмотреть свой подход. Даже влияние знаменитостей утратило свою способность формировать общественное мнение — когда десятки знаменитостей из списка А объединились в поддержку одного кандидата на выборах 2024 года, их скоординированные заявления не только не повлияли на избирателей, но и могли привести к обратным результатам, свидетельствуя о растущей усталости общества от искусственного консенсуса.

Общественность всё чаще распознаёт эти схемы манипулирования. Когда вирусные видео показывают, как десятки ведущих новостей читают одинаковые сценарии об «угрозах нашей демократии», фасад независимой журналистики рушится, обнажая продолжающийся систематический контроль над нарративами. Авторитет традиционных СМИ падает, а частые разоблачения сфабрикованных нарративов и искажённых источников показывают, что централизованные системы обмена сообщениями никуда не делись.

Даже индустрия проверки фактов, созданная для поддержки официальных нарративов, сталкивается с растущим скептицизмом по мере того, как люди обнаруживают, что эти «независимые» арбитры истины часто финансируются теми самыми властными структурами, за которыми они якобы следят. Предполагаемые хранители истины вместо этого служат проводниками приемлемых взглядов, а их финансовые следы ведут непосредственно к организациям, за которыми они должны следить.

Общественное пробуждение выходит за рамки корпоративных сообщений и приводит к более широкому осознанию того, что якобы естественные социальные изменения часто являются результатом искусственного воздействия. Например, хотя большинство людей узнали об Институте Тависток только из-за недавних споров о гендерно-подтверждающей терапии, их реакция указывает на более глубокое осознание того, что культурные сдвиги, которые долгое время считались естественной эволюцией, на самом деле могут быть результатом институционального воздействия. Хотя мало кто до сих пор понимает историческую роль Тавистока в формировании культуры со времён наших бабушек и дедушек, всё больше людей задаются вопросом, не были ли эти, казалось бы, спонтанные социальные преобразования на самом деле тщательно спланированы.

Это растущее признание сигнализирует о фундаментальном сдвиге: по мере того, как аудитория всё больше осознаёт методы манипулирования, эффективность этих систем контроля начинает снижаться. Однако система устроена так, чтобы вызывать сильные эмоциональные реакции — чем более возмутительные, тем лучше, — именно для того, чтобы предотвратить критический анализ. Поддерживая в обществе постоянное состояние реакционного возмущения, будь то защита или критика таких фигур, как Трамп или Маск, она успешно отвлекает от изучения базовых властных структур, в рамках которых действуют эти фигуры. Повышенное эмоциональное состояние служит идеальным щитом от рациональных исследований.

Прежде чем подробно рассматривать современные цифровые механизмы управления, давайте проследим эволюцию от аппаратных монополий Эдисона до психологических операций Тавистока и современных алгоритмических систем управления. Эта эволюция — не просто естественное историческое развитие. Она показывает, как каждый этап намеренно создавался на основе предыдущего для достижения одной и той же цели. Физический контроль над распространением медиа превратился в психологическое манипулирование контентом, которое теперь автоматизировано с помощью цифровых систем. По мере того, как системы искусственного интеллекта становятся всё более сложными, они не просто автоматизируют эти механизмы управления — они совершенствуют их, обучаясь и адаптируясь в режиме реального времени в ходе миллиардов взаимодействий. Мы можем представить, как отдельные сферы власти — финансы, СМИ, разведка и культура — объединились в интегрированную сеть социального контроля. Изначально эти системы работали независимо друг от друга, но теперь они функционируют как единая сеть, где каждая из них усиливает и дополняет другие. Эта система, совершенствовавшаяся на протяжении столетия, достигает своего апогея в эпоху цифровых технологий, когда алгоритмы автоматизируют то, что раньше требовало тщательной координации между людьми.

Цифровой Эндшпиль

Современные цифровые платформы представляют собой кульминацию методов контроля, разработанных за последнее столетие. Там, где исследователям когда-то приходилось вручную изучать групповую динамику и психологические реакции, системы искусственного интеллекта теперь проводят миллиарды экспериментов в режиме реального времени, постоянно совершенствуя свои методы влияния с помощью анализа больших данных и отслеживания поведения. То, чего Томас Эдисон добился с помощью физического контроля над фильмами, современные технологические компании теперь делают с помощью алгоритмов и автоматической модерации контента.

Слияние систем наблюдения, алгоритмов и финансовых систем представляет собой не просто эволюцию техники, но и расширение масштабов. Это слияние, по-видимому, было спланировано. Вспомните, что Facebook был запущен в тот же день, когда DARPA закрыло «LifeLog» — свой проект по отслеживанию «всего существования» человека в интернете. Или что крупные технологические платформы теперь нанимают множество бывших сотрудников разведки в свои команды «доверия и безопасности», которые определяют, какой контент будет распространяться, а какой — нет.

Платформы социальных сетей собирают подробные поведенческие данные, которые алгоритмы анализируют, чтобы прогнозировать и формировать действия пользователей. Эти данные всё чаще используются в финансовых системах для оценки кредитоспособности, таргетированной рекламы и новых цифровых валют центральных банков (CBDC). Вместе они создают замкнутый цикл, в котором наблюдение совершенствует таргетинг, формирует экономические стимулы и обеспечивает соблюдение доминирующих норм на самом детальном уровне.

Эта эволюция проявляется конкретными способами:

· Инфраструктурная монополия Edison перевратилась в собственность платформы

· Исследования Тэвистока по психологии превратились в алгоритмы социальных сетей

· Проникновение в СМИ операции «Пересмешник» превратилось в автоматическую модерацию контента

· Моральные нормы Кодекса Хейса стали «общими правилами»

Если говорить точнее, то первоначальный план Эдисона по управлению эволюционировал в цифровую форму:

· Его контроль над производственным оборудованием перешел в собственность платформы и облачной инфраструктуры

· Контроль распространения в кинотеатрах стал алгоритмической видимостью

· Защита патента превратилась в Условия предоставления услуг

· Финансовый черный список превратился в демонетизацию

· Его определение «разрешённого» контента стало «стандартами сообщества».

Патентная монополия Эдисона позволяла ему диктовать, какие фильмы можно показывать и где, точно так же, как современные технологические платформы используют условия предоставления услуг, права интеллектуальной собственности и алгоритмическую видимость, чтобы определять, какой контент будет доступен зрителям. Там, где Эдисон мог просто запретить кинотеатрам показывать фильмы, современные платформы могут незаметно снижать видимость с помощью «теневого запрета» или демонетизации.

Эта эволюция от ручного управления к алгоритмическому отражает столетний процесс совершенствования. Там, где Кодекс Хейса прямо запрещал контент, системы искусственного интеллекта теперь незаметно снижают его приоритетность. Там, где для операции «Пересмешник» требовались редакторы-люди, алгоритмы рекомендаций теперь автоматически формируют информационный поток. Механизмы никуда не делись — они стали невидимыми, автоматизированными и гораздо более эффективными.

Пандемия COVID-19 продемонстрировала, насколько тщательно и быстро современные системы управления могут формировать консенсус и обеспечивать соблюдение правил. В течение нескольких недель устоявшиеся научные принципы, касающиеся естественного иммунитета, передачи вируса на открытом воздухе и целенаправленной защиты, были заменены новой ортодоксальной точкой зрения. Алгоритмы социальных сетей были запрограммированы на усиление контента, основанного на страхе, и подавление альтернативных точек зрения, в то время как новостные агентства координировали сообщения, чтобы сохранить контроль над повесткой, а финансовое давление обеспечивало соблюдение правил на институциональном уровне. Точно так же, как столетие назад захват Рокфеллером медицинских учреждений сформировал границы допустимых знаний, борьба с пандемией показала, насколько эффективно эта система может действовать в условиях кризиса. Те же механизмы, которые когда-то определяли «научную» и «альтернативную» медицину, теперь определяют, какие подходы к общественному здравоохранению можно обсуждать, а какие будут систематически подавляться.

Учёные, подписавшие Великую Баррингтонскую декларацию, обнаружили, что их мнение было стёрто не только с помощью обычной цензуры, но и с помощью невидимой руки алгоритмического подавления: их взгляды были скрыты в результатах поиска, их обсуждения были помечены как дезинформация, а их профессиональная репутация была поставлена под сомнение скоординированными кампаниями в СМИ. Эта тройная мера подавления сделала инакомыслящие точки зрения практически невидимыми, продемонстрировав, как современные платформы могут объединяться с государственной властью, чтобы устранять оппозицию, сохраняя при этом иллюзию независимого контроля. Большинство пользователей никогда не осознают, чего они не видят, — самая эффективная цензура невидима для своих жертв.

Приобретение Илоном Маском Twitter пролило свет на ранее скрытые методы, такие как теневой бан и алгоритмическое подавление контента, благодаря публикации «Твиттер-файлов». Эти разоблачения показали, насколько глубоко платформы интегрировали влияние государства в свою политику модерации — будь то прямое давление или добровольное соблюдение правил — стирая инакомыслие под предлогом соблюдения стандартов сообщества. Однако даже Маск признал ограниченность свободы слова в рамках этой системы, заявив, что «свобода слова не означает свободу распространения». Это признание подчёркивает непреложную реальность: даже при новом руководстве платформы остаются связанными алгоритмами и стимулами, которые определяют видимость, влияние и экономическую жизнеспособность.

Возможно, высшим проявлением этой эволюции является предлагаемое введение цифровых валют центральных банков (CBDC), которые трансформируют механизмы социального контроля в финансовую инфраструктуру. Слияние ESG-метрик с цифровой валютой создаёт беспрецедентный детальный контроль — каждая покупка, каждая транзакция, каждый экономический выбор становятся предметом автоматизированного анализа на соответствие социальным нормам. Такое слияние финансового надзора с поведенческим контролем представляет собой высшее проявление систем контроля, которые начали формироваться с появлением физических монополий Эдисона. Внедряя систему слежки в саму валюту, правительства и корпорации получают возможность отслеживать, ограничивать и манипулировать транзакциями на основе соответствия официальным критериям — от ограничений по использованию углеродных ресурсов до показателей разнообразия и социальных рейтингов. Эти системы могут сделать инакомыслие не просто наказуемым, но и экономически невыгодным, ограничивая доступ к предметам первой необходимости, таким как еда, жильё и транспорт, для тех, кто не соответствует установленным правилам.

То, что началось с тщательного изучения массовой психологии в Тавистоке, было протестировано с помощью грубых эмоциональных экспериментов Facebook и усовершенствовано с помощью современных алгоритмических систем, представляет собой более чем столетний опыт развития социального контроля. Каждый этап опирался на предыдущий: от физических монополий до психологических манипуляций и цифровой автоматизации. Современные платформы социальных сетей не просто изучают поведение людей — они алгоритмически формируют его, автоматизируя массовые психологические манипуляции с помощью миллиардов ежедневных взаимодействий.

Отключение от матрицы: путь назад к реальности

Понимание этих систем — первый шаг к освобождению. По мере того, как механизмы контроля достигают своего пика, растёт и возможность сопротивления. Финал борьбы за централизованную власть представляет собой парадокс: те же системы, которые ограничивают свободу, демонстрируют и свои уязвимые места.

Хотя переход от физических монополий Эдисона к сегодняшним невидимым алгоритмическим механизмам управления может показаться ошеломляющим, он раскрывает важную истину: эти механизмы создаются, а то, что создано, можно разрушить или обойти.

Мы уже видим проблески сопротивления. Как я заметил в своём исследовании истоков «больших технологий», люди всё чаще требуют прозрачности и подлинности — и как только они видят эти системы контроля, они уже не могут их не замечать. Общественный протест против очевидного идеологического манипулирования — от корпоративных кампаний по демонстрации добродетели до цензуры на платформах — свидетельствует о пробуждении от этих методов контроля. Общественный отказ от корпоративных новостных сетей в пользу независимой журналистики, массовый переход от манипулятивных платформ социальных сетей к децентрализованным альтернативам и растущее движение в сторону создания местных сообществ - все это демонстрирует, как осведомленность ведет к действиям. Рост числа платформ, приверженных свободе слова, даже в рамках централизованных систем, показывает, что возможны альтернативы алгоритмическим манипуляциям. Отстаивая прозрачность, уменьшая зависимость от автоматической модерации контента и поддерживая открытый обмен идеями, эти платформы бросают вызов существующему положению вещей и выступают против доминирования централизованных повествований. Построенные на этих принципах по-настоящему децентрализованные сети представляют собой нашу лучшую надежду на сопротивление: полностью устраняя посредников, они обладают наибольшим потенциалом для противодействия иерархическому контролю и расширения возможностей для подлинного самовыражения.

Борьба за свободу сознания — это наша самая фундаментальная борьба. Без неё мы не являемся автономными субъектами, а выступаем в роли неигровых персонажей (NPC) в чужой игре, делая, казалось бы, свободный выбор в рамках тщательно продуманных параметров. Каждый раз, когда мы подвергаем сомнению алгоритмическую рекомендацию или ищем независимые мнения, мы разрушаем матрицу управления. Когда мы создаём местные сообщества и поддерживаем децентрализованные платформы, мы создаём пространства, недоступные для алгоритмических манипуляций. Это не просто акты сопротивления — это шаги к возвращению нашей автономии как сознательных людей, а не запрограммированных NPC.

Выбор между подлинным сознанием и запрограммированным поведением требует ежедневного принятия решений. Мы можем пассивно потреблять отобранный контент или активно искать разные точки зрения. Мы можем принимать алгоритмические предложения или осознанно выбирать источники информации. Мы можем изолировать себя в цифровых пузырях или создавать реальные сообщества сопротивления.

Наше освобождение начинается с осознания: эти системы контроля, хоть и могущественны, не являются неизбежными. Они были созданы, и их можно разрушить. Развивая творческие способности, укрепляя подлинную связь и восстанавливая нашу независимость, мы не просто сопротивляемся матрице контроля — мы возвращаем себе фундаментальное право самим определять свою судьбу. Будущее принадлежит тем, кто достаточно осведомлён, чтобы видеть систему, достаточно смел, чтобы отвергнуть её, и достаточно креативен, чтобы создать что-то лучшее.