Что же делать?
# Глава 10: What Is to Be Done?
> Неужели нам всем стоять и жаловаться, ожидая, пока кто-то злонамеренный придёт и поработит нас? Электронная мафия уже маячит за углом.
>
> Стаффорд Бир, «Designing Freedom», 1974
У звукорежиссёров есть поговорка: «Если ты слышишь проблему, ты слышишь и решение». Определить, что не так в миксе, — это то же самое, что определить, что нужно изменить. Инженерия разнообразия, к сожалению, не совсем то же самое. Определить, какие каналы сломаны, какие системы отсутствуют или какие механизмы трансляции не работают, — это значительный шаг вперёд, но перед вами нет большого пульта с ползунком, который добавит мощности там, где нужно. Как впервые заметил историк Альфред Д. Чендлер, организации изначально справляются с дисбалансами в своей способности обрабатывать разнообразие среды, добавляя ресурсы к существующим каналам, — а когда это становится невозможным, реорганизуясь. А организация — не скалярная величина; нельзя просто сказать, сколько изменений вы хотите.
Нужно говорить о конкретных изменениях. Модель жизнеспособной системы поможет проверить, способно ли данное предложение работать — она скажет вам, о чём думать и решает ли оно правильные проблемы. Она также поможет подумать о другом ключевом параметре: способности системы выдерживать и переживать организационные изменения. Но она не генерирует идеи. Это мы должны делать сами.
Впрочем, есть один смысл, в котором правило звукорежиссёров более применимо. Это проблемы человеческой организации, и подавляющее большинство разнообразия среды создаётся людьми. Знание того, что нечто является организационной проблемой, означает, что источник её сложности — люди в организации. А это, в свою очередь, означает, что люди в организации обладают достаточным разнообразием и способностью, чтобы соответствовать сложности проблемы; проблема не может быть больше их, потому что их собственные неумелые усилия её создали. Только проблемы, не являющиеся кибернетическими, могут быть действительно неразрешимы.*
У меня нет возможности делать детальные проекты общества будущего — сам Стаффорд Бир её не имел. Но систематическое использование его инструментария позволяет нам задавать правильные вопросы. Что нам нужно сделать, чтобы организация индустриальной экономики перестала вызывать чрезмерный стресс у человеческой популяции? Если мы сможем этого добиться, как мы можем начать делать систему устойчивой к будущему и адаптируемой к факту растущей сложности? Но более фундаментально: как мы можем начать избавляться от теоретических и идеологических слепых зон, которые в первую очередь привели нас к этому беспорядку?
Начиная с этого последнего вопроса, пора узнать, что случилось со Стаффордом Биром после Чили.
Год 1975. Брайан Ино стоит по щиколотку в грязи, его восторженно приветствуют две большие собаки. Он приехал в уединённый коттедж в Уэльсе, чтобы встретиться со Стаффордом Биром во второй раз. Они часами говорят об алгоритмах, самоорганизующейся музыке и будущем демократического общества, пока Ино практически не падает от голода. Когда Бир говорит Ино, что хочет передать ему факел кибернетики, музыкант отвечает: «Я очень польщён, что ты так считаешь, но я не вижу, как я могу это принять, не отказавшись от той работы, которой занимаюсь сейчас, — и мне придётся очень серьёзно над этим подумать».
Это может звучать как сцена из психоделического фильма, но этот разговор действительно состоялся. И хотя выпивка, очевидно, имела место, предложение Бира, похоже, было сделано серьёзно. Первая встреча состоялась ранее в том же году в Лондоне, после того как Ино отправил Биру эссе, которое он написал, — «Generating and Organizing Variety in the Arts», адаптацию кибернетических принципов к музыкальному исполнению. Жизнь Бира не устоялась после его времени в Чили. Он недавно развёлся и работал над расширенным вторым изданием «Brain of the Firm», которое включало его оценку опыта Альенде. Ино, с другой стороны, интересовался генеративным искусством и кибернетикой ещё со времён художественной школы. Получив от тёщи экземпляр первого издания «Brain of the Firm», он проглотил его.
Ино был в другой точке своей карьеры; он покинул арт-поп-группу Roxy Music двумя годами ранее и к этому моменту выпустил два сольных альбома. В 1975 году он работал над первыми записями «Discreet Music» (название «ambient» появилось позже) и «Another Green World». Его студийные техники уже были на продвинутой стадии развития; альбом Genesis «The Lamb Lies Down on Broadway», выпущенный в 1974 году, указывает в титрах его «эноссификацию» (Enossification). Стаффорд Бир искал не миссионера управленческой кибернетики в поп-мире; он искал кого-то, кто продолжит его академическую работу. В контексте нетрудно понять, почему этого не произошло.
Бир так и не решил проблему того, кому он мог бы передать факел; он, казалось, искал творческих людей, которые хотели изменить мир, но такие люди обычно были заняты своими делами. Он занимал множество приглашённых профессорских позиций, но никогда не брал на себя ту стабильную постоянную академическую работу, которая гарантировала бы, что у него будут аспиранты для продолжения его наследия. Однако он завербовал ещё одного евангелиста в мире музыки. Через пару лет после встречи в уэльском коттедже Ино помогал Дэвиду Боуи продюсировать одну из самых влиятельных записей XX века в Берлине; по словам присутствовавших, он постоянно рисовал диаграммы и изобретал процессы и системы, чтобы всё работало. Боуи быстро схватывал кибернетику, и мысль засела — ещё в 1995 году он упоминал «Brain of the Firm» в ответ на вопрос Daily Mirror о его десяти любимых книгах.
Тридцать один год спустя после той встречи со Стаффордом Биром Брайан Ино создал произведение искусства под названием «77 Million Paintings». Я видел его на выставке в лондонском Barbican в 2006 году, одновременно с фестивалем, посвящённым композитору Стиву Райху.
Выставка была тематически связана с творчеством Райха; он композитор-минималист, и многие его ранние работы, в частности, построены на наслаивании и повторении кусочков шума и музыки, создающих новые и странные звуковые события. Работа Ино была тем, что он называет «генеративным искусством». ЖК-экраны были вставлены в рамы для картин, а за ними компьютер выполнял программу, генерировавшую изображения. Программа брала несколько визуальных элементов и рекомбинировала их по небольшому набору правил — могла наслаивать их друг на друга, растягивать, вращать или менять цветовую палитру. Как мы видели в предыдущих главах, разнообразие в таких простых правилах умножается; на основе относительно компактного кода можно было рассчитать, что правила со временем сгенерируют 77 миллионов различных изображений.
Это системы принятия решений. Пришлось бы растягивать определение «искусственного интеллекта» до абсурда, чтобы охватить их, но они принимают решения о том, какие изображения генерировать; они развиваются и имеют цель. Можно даже сказать, что они встроены в рекурсивную систему для принятия решений более высокого уровня; если бы одно из них начало показывать кучу свастик, кто-нибудь, вероятно, вмешался бы и что-то сделал. Но их целеустремлённость не состоит в максимизации чего-либо; они просто исследуют возможности, которые им открыты.
Это конкретное произведение искусства не реагировало на свою среду, но не требуется большого воображения, чтобы представить такое, которое могло бы. По сути, интерактивное генеративное искусство существовало с самых ранних дней кибернетики. Гордон Паск, тот самый парень, с которым Стаффорд Бир пытался вырастить искусственное ухо, пытался коммерциализировать систему освещения MusiColour, которая адаптировала театральное шоу к тому, как, по-видимому, танцевала аудитория. Существует множество мобильных приложений, которые действуют как современная карманная версия MusiColour, рекомбинируя музыку и формы в ответ на касания и свайпы — Ино создал несколько, как и многие другие художники и разработчики. Это системы, обладающие ключевым кибернетическим свойством «ультрастабильности»; они способны находить устойчивое состояние в ответ на условия, которых их проектировщики не предвидели.
Но они работают не за счёт определения целевой функции и стремления её максимизировать. Это тот самый сдвиг парадигмы, который может потребоваться, — что организации и системы могут быть как люди, имея цели без единой задачи. Художник не делает успешную карьеру, максимизируя своё искусство; он делает это, снова и снова создавая работы, которыми гордится.
Вот как мог бы выглядеть мир, если бы мы избавились от слепых зон. Бизнес должен быть как художники, а не как максимизаторы скрепок. Экономическая концепция оптимизации и институты управления и правительства, которые обеспечивают её использование, по сути действуют как жестокий информационно-редуцирующий фильтр. Сняв давление максимизировать единственный показатель (и, следовательно, выбрасывать информацию, не имеющую к нему отношения), организации могли бы применять свои способности к принятию решений гораздо более эффективно. Они могли бы больше инноваций, разрабатывать более устойчивые решения и строить менее конфронтационные, долгосрочные отношения со своими людьми.
Как ни странно, это довольно близко к другому видению экономики, которое было забыто в 1970-х. Я упоминал в Главе 8, что единственным современником Милтона Фридмана, имевшим хоть сколько-нибудь сопоставимый публичный профиль экономиста, был канадец Дж. К. Гэлбрейт. Это, возможно, было преуменьшением — в течение значительной части того времени и за пределами США Гэлбрейт был более крупной звездой.* И Дж. К. Гэлбрейт видел роль корпораций совершенно иначе, чем Фридман.
Гэлбрейт не был математическим экономистом; он не записывал системы уравнений и не доказывал, что у них есть оптимизированные решения. Это одна из причин, по которой его экономика была несколько оставлена позади современной профессией. Но он много думал о планировании и информации и признавал, что главным фактом послевоенной экономики был рост значения крупных организаций. Он также был одним из немногих экономистов, серьёзно рассматривавших растущую важность профессионально-управленческого класса. Он обычно называл его «техноструктурой» — сложной категорией, охватывающей бизнес, правительство, военных и медиа, работающих в интересах поддержания общей стабильности.
Довольно поразительно перечитывать Гэлбрейта бок о бок с несколькими выпусками JACF, потому что это совершенно иной взгляд на то, как корпорации себя ведут. Он не верил в финансовый рынок как источник суждения и стимулов — он считал, что главным приоритетом руководителей было справляться с неопределённостью. У него на самом деле есть теория рекламы, которая интуитивно понятна: это просто ещё одна часть планирования. Учитывая объём работы и инвестиций, уходящих на запуск нового продукта, было бы довольно абсурдно для компаний вкладывать все усилия в сторону предложения и не предпринимать никаких попыток планировать спрос.
Идеальная экономика по Гэлбрейту — это та, где техноструктура преобладает; бизнес-циклом управляют менеджеры, которые поддерживают стабильность, общаясь друг с другом, и удерживают контроль над производительными ресурсами общества, просто появляясь на работе, чтобы делать то, что никто другой не хочет делать. Он в целом подозрительно относится к «конкуренции», когда она появляется — абсолютные монополии, по его мнению, вероятно, являются эксплуататорскими, но уютные договорённости о фиксации цен, скорее всего, — хорошая вещь. Они генерируют прибыль, которая может быть направлена на инвестиции и инновации, они приносят стабильность в общую структуру цен и зарплат и поощряют бизнес конкурировать за счёт улучшения качества.
Это лишь одна из моделей, потерянных в математической революции; нобелевский лауреат по имени Герберт Саймон также предложил «поведенческую теорию фирмы», в которой прибыль была не целью, которую нужно максимизировать, а скорее ограничением на поведение — предполагалось, что менеджеры делают ровно столько, чтобы держать инвесторов довольными, а затем тратят остальное время и усилия на попытки делать новые вещи, которыми можно гордиться. Существует ряд моделей, большинство из которых игнорировалось десятилетиями, в которых корпоративный сектор выполняет стабилизирующую функцию, страхуя рабочий класс от колебаний бизнес-цикла, а не ожидая, что они будут впитывать волатильность.
Интригующе то, что Саймон и Гэлбрейт не писали полемики о том, что именно так корпорации _должны_ себя вести — они просто описывали то, что было перед ними в то время. До эссе Милтона Фридмана многие люди предполагали, что это естественный ход вещей. Без доктрины Фридмана, без очень серьёзного реинжиниринга систем корпоративных финансов индустриальная экономика могла бы просто продолжать развиваться в техноструктуру.
Может быть, они были правы? Было бы определённо хорошо, если бы так, потому что это могло бы указывать на гораздо более лёгкий путь к устранению непосредственного источника кризиса. Если проблема современной корпорации является результатом капиталистической контрреволюции против управленческого класса, нам просто нужно изменить условия битвы.
Насколько я могу судить, первый шаг к возможности каких-либо улучшений должен включать что-то, сделанное с private equity. Есть и другие проблемы с современными практиками управления и патологиями финансовой системы, но это основная. Она вызывает огромное количество проблем, нормализует плохую практику и не даёт соразмерных выгод. Демонтаж индустрии LBO избавил бы от нависающей угрозы над всем управленческим классом; он открыл бы огромное пространство для различных моделей корпоративного управления.
Но как бы вы это сделали? Если кто-то считает, что может управлять компанией лучше существующего руководства, ему разрешается тратить свои деньги на её покупку; предотвращение этого потребовало бы серьёзного нарушения системы. Вы также не можете запретить руководству компании брать на себя долг. Во многих случаях взятие долга — даже риск банкротства — является правильным и необходимым действием для компании. Как только вы начинаете пытаться разрабатывать режимы регулирования для предотвращения «чрезмерных» корпоративных заимствований или различать компании по признаку их владельцев, вы быстро начинаете понимать, что это случай, когда закон необходимого разнообразия говорит вам, что проект обречён* — разнообразие финансовых ситуаций, в которых может оказаться компания, гораздо больше, чем то, что можно прописать в правиле.
Те же принципы инженерии разнообразия показывают, где должно быть решение. Мы знаем, что плохое в долге в этом контексте — то, что он заглушает все другие сигналы и искажает принятие решений, поэтому нам нужно посмотреть, где обратная связь усиливается, ослабляется или удаляется. В контексте это довольно ясно. Принцип ограниченной ответственности действует как поглотитель ответственности для инвесторов private equity. Он позволяет им брать на себя долг, а затем извлекать деньги, зная, что если дела пойдут плохо, эта информация не сможет путешествовать вверх по потоку, чтобы затронуть сущность, принявшую решение.
На языке модели Бира принцип ограниченной ответственности является частью «ресурсной сделки». Как мы уже упоминали, это фундаментальная единица управления для жизнеспособной системы. Это средство, с помощью которого подсистеме предоставляется автономия в принятии решений, при условии, что её решения не влияют на более широкую системную стабильность. Ограниченная ответственность была введена для акционерных корпораций в США в 1820-х годах, как часть сделки, которая позволила бы получить доступ к гораздо большему пулу сбережений для финансирования индустриализации нового континента. Она пришла в Англию тридцать лет спустя и в конечном итоге была принята по всему миру. Но это сделка, а не принцип естественной справедливости, и её нужно пересмотреть, если она причиняет беспокойство.
Бывший кандидат в президенты США Элизабет Уоррен представила восьмичастный план реформирования индустрии private equity,* но с кибернетической точки зрения нужен был только один из этих пунктов: любая сущность, берущая под контроль операционную компанию, должна гарантировать её долги. Возможно, также стоит ввести какое-то правило относительно выплаты чрезвычайных дивидендов, но я сомневаюсь, что это было бы необходимо. Как только вы убираете большой поглотитель ответственности — и делаете возможным, чтобы плохая сделка затрагивала инвесторов, а также маленьких людей, — большая часть привлекательности использования способности компании обслуживать долг для «покупки её на её же деньги» исчезает. Вы можете сохранить хорошую часть ресурсной сделки для ограниченной ответственности, но сконцентрировать её на изначальной цели — позволить мелким, неконтролирующим инвесторам вносить вклад в покупку промышленного капитала. Именно там находится основная выгода от такого механизма, поэтому нет необходимости разрешать дальнейшие уровни ограниченной ответственности.
## Жизнеспособность вместо максимизации
Я думаю, этого может быть достаточно, чтобы уничтожить фридманизм. Два десятилетия спустя после начала XXI века легко думать о безумной идеологии максимизации прибыли как о неизбежной. Когда мы думаем о корпорациях как об искусственных интеллектах, мы беспокоимся, что у них развилась мономания, зависимость от определённого рода стимула, и что они разрушают свои собственные жизни, жизни других и даже материальные условия своего существования, чтобы удовлетворить свою тягу к прибыли.
Но это уже натяжка на границах того, что может быть оправдано как метафора. Корпорации — это системы принятия решений, а не «интеллекты». У них есть гомеостатические силы, направленные на поддержание равновесия, и системы принятия решений более высокого порядка, которые означают, что они способны реорганизовываться, чтобы реагировать на шоки, выходящие за рамки всего, что предусматривалось при их проектировании. Приписывать им мотивацию — значит делать предположения о внутренней работе чёрного ящика — первородный грех кибернетического анализа. Единственная причина, по которой мы можем думать, что цель нефтяной компании — уничтожить человеческую жизнь на планете Земля, — это POSIWID (Purpose Of a System Is What It Does — цель системы есть то, что она делает); это то, чем они занимаются.
Они делают это, потому что должны. Система принятия решений современной корпорации имеет особую дисфункцию: один из её сигналов был так усилен, что заглушает остальные. «Мотив прибыли» — это не то, что можно приписать корпорациям — у них нет мотивов. У них есть дисбаланс между двумя ключевыми высшими функциями — «здесь и сейчас» против «там и тогда». Они не способны реагировать на сигналы от функции долгосрочного планирования и разведки, потому что функция краткосрочного планирования должна работать в условиях дисциплинарной системы финансового рынка. У корпорации либо есть условие выживания, основанное на необходимости платить ежемесячный процентный счёт, либо есть неявная угроза из финансовой среды, что если она не будет вести себя определённым образом, её поглотит внешняя сущность.
Если убрать это давление, вполне вероятно, что естественное равновесие корпоративных систем принятия решений будет менее враждебным человеческой жизни. Жизнеспособные системы фундаментально стремятся к стабильности, а не к максимизации. В эпоху капитализма, которую описывали Дж. К. Гэлбрейт и Герберт Саймон, гиганты корпоративной Америки были довольны тем, что они большие и важные; они не чувствовали необходимости выжимать каждый последний цент, который можно было извлечь. И хотя, несомненно, были карманы лени и коррупции, не всё было плохо. Помимо корпоративных самолётов, они финансировали роскошные исследовательские лаборатории. Помимо сговоров о разделе рынков, они пытались конкурировать качеством и инновациями, а не только ценой. Если сравнить предположительно склеротическую эру «техноструктуры» Гэлбрейта, до бума LBO, с современной эрой динамизма и давления, вы можете удивиться, узнав, какая из них показала лучшие результаты — даже с точки зрения экономического роста.
Другими словами, если мы считаем, что величайшая проблема, стоящая перед человечеством, — это то, что искусственные интеллекты, управляющие нашей повседневной жизнью, сошли с ума, то это кибернетическая проблема — и у неё может быть на удивление простое кибернетическое решение. Трудно услышать совесть корпораций за шумом долга и «фидуциарной обязанности», но она существует. Если вы приглушите визжащую сирену долгового бремени, вы измените их информационную среду. В любой обычный день менеджеры тратят гораздо больше времени на разговоры со своими клиентами и сотрудниками, чем с инвесторами; если бы они могли обращать внимание на то, что слышат, это было бы гораздо полезнее для их принятия решений.
Но это был бы только первый шаг. В глобальном управлении есть гораздо больше, чем корпоративное управление, и пока идеология экономики сохраняет своё доминирующее положение, всегда существует значительная опасность, что доктрина Фридмана восстанет из мёртвых. Если высшие механизмы принятия решений в мире должны быть жизнеспособными системами, им нужна философия, которая может балансировать настоящее и будущее и создавать самоидентичность. Мы видели причины этого в Главе 5. И из остальной части модели можно вывести, что эта философия не может сильно походить на мейнстримовую экономику в её нынешнем состоянии.
Причина, по которой экономика не может быть управляющей философией, основана на том же фундаментальном факте, который движет страхами исследователей ИИ перед машинами для скрепок:
> Любая система, созданная для максимизации единственной цели, имеет потенциал сойти с ума.
Это следует из математики оптимизации с ограничениями в сочетании с основными законами кибернетики. Создание максимизирующей системы включает определение целевой функции и отбрасывание всей остальной информации. Рано или поздно среда изменится, и что-то, чего больше нет в информационном наборе, приведёт систему к разрушению.
> Каждая система принятия решений, созданная как максимизатор, нуждается в системе более высокого уровня, наблюдающей за ней.
Нужен красный рычаг, который можно дёрнуть, способ для тех, кого касаются решения, указать на невыносимость. Когда вы передаёте ответственность алгоритму — буквальному или человеко-машинной системе с инструкцией максимизировать что-то — часть ресурсной сделки должна включать предоставление возможности надзора, чтобы убедиться, что максимизация не выходит из-под контроля.
А это, в свою очередь, подразумевает вполне определённый вывод для проектирования реальных систем:
> Экономисты не могут быть у руля — по крайней мере, не так, как они сейчас.
Если каждая максимизирующая система должна иметь систему более высокого уровня, управляющую ею (чтобы убедиться, что она не сходит с ума), то из этого логически следует, что верхний уровень любой системы принятия решений, которая должна действовать автономно, не может быть максимизатором. И следовательно, управляющая философия общей экономической системы не может основываться на методологии оптимизации с ограничениями, которая в настоящее время доминирует в экономической науке. Иначе существует риск, что система сойдёт с ума и начнёт преследовать максимизирующие цели, не обращая внимания на опасность того, что она на пути к тому, чтобы сделать человеческую жизнь невозможной. Что она, собственно, и сделала.
Это звучит как горькая пилюля для экономистов. Однако это не так плохо, как звучит. Во-первых, не то чтобы набор инструментов оптимизации нужно полностью выбросить. Как мы говорили ранее, если у вас есть некоторые входы и вы хотите некоторые выходы, вы хотите получить максимальное количество выходов из ваших входов, и это то, о чём экономика. Обеспечение управляющей идеологии и философии — не единственное, что делает науку стоящей; Джон Мейнард Кейнс однажды сказал, что экономисты могут считать свою дисциплину успешной, когда их будут считать полезными и компетентными техниками, как дантистов.
А во-вторых, экономика содержит множество подходов. Поворот к максимизации и математике относительно недавний; Дж. К. Гэлбрейт и Герберт Саймон упомянуты в этой главе, но есть много других традиций, в которых это безудержное максимизирующее поведение не является центральной догмой. Если они хотят оставаться королевой социальных наук, экономистам просто нужно изменить свои приоритеты. Как и любая другая жизнеспособная система, экономика способна реструктурироваться в ответ на необходимость окружающей среды.
Было бы замечательно, если бы экономику можно было заставить перестать направлять стресс и волатильность в жизни людей. Но хотя это значительно помогло бы снизить непосредственную угрозу, это только первый шаг. У нас всё ещё есть основная проблема: системе требуется создание поглотителей ответственности для функционирования, население этим недовольно, и единственные способы, которыми оно может выразить своё недовольство, — это крайне разрушительные для самой системы.
В Чили мечтой Стаффорда Бира было создать инженерный коммуникационный канал такого рода — в каждом доме была бы ручка, которую можно было бы крутить, указывая общий уровень удовлетворённости системой, что вызывало бы срочное исследование и постановку вопросов сверху, если агрегированный сигнал падал ниже целевого уровня. Но этого никогда не произошло — сын-подросток Бира собрал прототип в семейном сарае, и на этом всё.
Сегодня у нас есть социальные сети. В принципе, они могли бы играть аналогичную роль в передаче информации снизу вверх, в сердце наших систем принятия решений. Но это было бы трудно. Это потребовало бы очень значительного изменения объёма информации, которую эти системы должны принимать. И одна вещь, которую мы знаем из истории менеджмента Альфреда Д. Чендлера, — это то, что большое изменение в сложности обычно требует столь же значительной реорганизации. До сих пор мы мало что сделали для решения этой задачи. Всё, что мы сделали, — это использовали электронную коммуникацию для создания более эффективной формы старой технологии под названием «крик».
Мы могли бы лучше. У нас даже есть технология для этого. Система социальных сетей — это источник избыточного разнообразия, с которым наши системы управления пока не могут справиться. Но в период, когда эти технологии расширялись, мы также изобретали невероятно мощные новые средства усиления разнообразия. Современная система искусственного интеллекта — рекуррентная нейронная сеть-трансформер* — может взять большой блок текста и быстро его резюмировать. Она также может расширить короткую инструкцию в более длинное объяснение. Она практически спроектирована для облегчения двусторонней коммуникации между массовой аудиторией и меньшей по размеру системой принятия решений. Было бы настоящим поколенческим позором, если бы мы в итоге снова просто использовали её, чтобы заставить наши существующие структуры работать быстрее — как пригласить Шекспира, Макиавелли и Наполеона и заставить их проектировать налоговые формы.
Но для этого нам нужно стать менее жёсткими в вопросе поглотителей ответственности. В будущем, помимо тех, что создаются неподотчётными системами чёрных ящиков, важные решения будут приниматься реальными роботами. Это не выбор, перед которым мы стоим, к сожалению. Это просто следствие того, что вещи становятся всё сложнее и пересекают порог, за которым их нужно анализировать как единое целое. Мы не можем позволить себе роскошь объяснимости; мы не можем продолжать требовать, чтобы был доступен идентифицируемый человек, которого можно обвинить, когда что-то идёт не так.
Управленческая кибернетика, к сожалению, не даёт никаких подсказок о том, как можно достичь такого глубокого социального изменения. Я мог бы что-то выдумать, но это было бы неуважением к вам после того, как мы прошли так далеко вместе.* Моё единственное предположение: возможно, что действительно невыносимо в неподотчётности — это разорванная обратная связь, и если мы сможем решить проблему коммуникации с системой — уделять больше внимания механизмам «красного рычага», которые указывают на невыносимый результат, — люди, возможно, не будут так яриться по поводу смерти личной ответственности. В целом, люди, по моему опыту, гораздо меньше злятся на всё, когда чувствуют, что их слушают.
В будущем «я обвиняю систему» — это то, к чему нам придётся привыкнуть. И иметь это в виду буквально.
* Одно из следствий этого утверждения — оно даёт нам строгое определение того, что можно считать экологическим Армагеддоном: это точка сингулярности, в которой проблема изменения климата перестаёт быть разрешимой исключительно за счёт изменения человеческого поведения и организации.
* Милтон Фридман получил Нобелевскую премию в 1976 году, но его место в популярной культуре было закреплено в 1980 году очень популярным телесериалом на общественном телевидении под названием «Free to Choose». Он был заказан специально как консервативное «право на ответ» на фильм Гэлбрейта «Age of Uncertainty», который вышел тремя годами ранее.
* Здесь, в этой сноске ближе к концу книги, вероятно, скрывается самый полезный и ценный совет из всех её страниц: проверка того, соблюдается ли закон Эшби о необходимом разнообразии, — отличный способ обнаружить обречённый проект. Он даже скажет вам, провалится ли проект из-за недостатка ресурсов или потому, что это невозможно достичь.
* В начале бума LBO, в 1985 году, Пол Волкер из Федеральной резервной системы также выдвинул предложение, основанное на прямом регулировании объёма заёмных средств, разрешённых к использованию компаниями-оболочками при поглощениях. Высказывалось предположение, что это было одной из причин, по которой администрация Рейгана заменила его Аланом Гринспеном в 1987 году.
* На момент написания ChatGPT является лидером рынка, но к моменту, когда вы это читаете, это могло измениться. Это снова «ближайшее будущее Кремниевой долины» — когда я начинал писать эту книгу, я знал об этих вещах только потому, что мой друг ушёл из хедж-фонда, чтобы работать над ними. К тому времени, как я закончил, они были в вечерних новостях.
* Особенно Глава 5, которая, обещаю, была гораздо труднее в написании, чем в чтении.