Как психоанализировать нечеловеческий интеллект
# Глава 4: How to Psychoanalyse a Non-human Intelligence — Как психоанализировать нечеловеческий интеллект
> У меня есть тревожное ощущение, например, что если бы компьютер
> существовал во времена Коперника, никто бы с ним и не связался,
> потому что компьютеры с лёгкостью справились бы
> с птолемеевскими эпициклами.
>
> — Кеннет Боулдинг, «Экономика знания и знание экономики», 1966
Одна из причин, по которой многие кибернетики были так гостеприимны к Стаффорду Биру, возможно, в том, что он занимался именно той кибернетикой, на которую они надеялись. Потому что даже довольно рано в этом проекте всё пошло несколько не по рельсам. Кибернетика задумывалась как междисциплинарный проект с очень большим вкладом медицинских и социальных наук. Но она очень быстро вышла из равновесия. Люди были просто слишком хороши в изобретении транзисторов.
### Тремор и атаксия в автоматизированных прицелах
Норберт Винер впервые задумался о системах управления в контексте своей военной работы. Одним из его проектов в Управлении научных исследований и разработок правительства США было изобретение автоматизированного прицела, который мог бы предсказывать движение вражеского самолёта и брать упреждение, достаточное для компенсации его вероятного перемещения за время полёта пули. Простая экстраполяция по прямой линии в направлении полёта самолёта не работала, поскольку пилоты маневрировали. Но Винер и его команда поняли, что движение самолётов не может быть случайным. Были ограничения на резкость поворотов из-за необходимости сохранять структурную целостность планера и сознание пилота.
Набор манёвров, которые использовали пилоты, был ещё меньшим подмножеством теоретически возможных трюков. Сам по себе налёт был чрезвычайно стрессовой задачей, оставлявшей лишь небольшой объём умственной пропускной способности для уклонения от огня с земли. Поэтому пилоты, как правило, принимали спонтанные решения из небольшого числа техник; в принципе, манёвр можно было опознать на ранних стадиях и предсказать остальную траекторию. Всё, что оставалось — подогнать математическую кривую к траектории и передать эту информацию сервомоторам орудийной башни.
Это превратилось в проблему обратной связи; прицел двигался, что меняло его входные данные, что заставляло его двигаться снова. Быстро обнаружилось, что система имеет склонность к двум видам проблем. Либо обратная связь была слишком слабой, и орудие отставало от цели, либо слишком сильной, и орудие колебалось вокруг цели, постоянно перекорректируя свои ошибки то в одну, то в другую сторону.
Друг, который был врачом, убедил Винера интерпретировать эти проблемы как эквивалент двух симптомов травмы мозжечка — атаксии и «интенционного тремора». Это, возможно, был момент, когда проекты теории управления, обратной связи и коммуникации стали отчётливо «кибернетикой». Родилась идея, что общая величина сохраняется между радаром, вычислительной машиной, сервомоторами и человеком-наводчиком.
Этой величиной, конечно, была «информация» — предмет дискуссии о социалистическом планировании, но в контексте, где её можно было измерить и превратить в предмет строгой теории. И для многих других учёных, частично потому, что военная работа столкнула их с людьми из других областей, это казалось ключом к очередной научной революции. В конце концов, помимо прицелов и товарных рынков, информация была материей человеческого мозга. Это было то, что люди записывали в книги, что организовывало индивидов в общества, сама материя мысли. К 1945 году у дюжин людей — телефонных инженеров, мозгоправов, экологов, антропологов, философов, физиков — нижние ящики столов были забиты идеями, пришедшими к ним, когда они взламывали коды, лечили контузии, проектировали радарные консоли или, как в случае Стаффорда Бира, картировали отношения между племенными фракциями. Они хотели продолжать говорить об этом.
И они продолжили. В Британии существовал Клуб Ratio, членами которого были Алан Тьюринг и другие, а в Америке Маки-конференции* собирали Винера и Джона фон Неймана, а также антропологов Джеффри Бейтсона и Маргарет Мид. Люди строили ищущих свет роботов, называемых «черепахами», и замечали, что они могут впадать в патологические состояния, напоминающие «депрессию» или «компульсивное расстройство». Они строили мышей, способных находить путь через лабиринты, и «гомеостаты», способные возвращаться в сбалансированное состояние при нарушении равновесия. И они пили, курили сигары и спорили. За ужинами и на семинарах это был редкий момент, когда люди одновременно быстро продвигались в математике и пытались думать о практических последствиях. Книга Винера «Кибернетика» даёт представление о том, как обстояли дела в 1948 году: первая глава, «Ньютоновское и бергсоновское время», состоит из философских спекуляций о природе сознания; вторая называется «Группы и статистическая механика» и содержит несколько страниц, заполненных одними уравнениями. К несчастью, проект провалился.
### Печальная кончина Общества Поворота Кубиков
Это может показаться необоснованной оценкой с моей стороны. В конце концов, члены Клуба Ratio и участники Маки-конференций между ними изобрели теорию информации, архитектуру микропроцессора, цифровые вычисления и большую долю всего, что составляет современный мир. Без интеллектуального взрыва в вычислительной технике и информационных технологиях, произошедшего в конце Второй мировой войны, жизнь сегодня была бы невообразимо иной.
Но очень малая часть их прогресса была в области кибернетики. Произошло следующее: пытаясь решить проблемы «контроля и коммуникации в животном и машине», люди получали идеи, применимые к другим проблемам. Решения этих проблем помогали им проектировать фантастические новые машины — вещи, имевшие коммерческое применение за пределами демонстрации простых идей о контроле и представлении. И в течение примерно десятилетия — в основном периода между первым изданием «Кибернетики» Винера в 1948 году и вторым в 1961 — большая часть усилий была отвлечена на новые и полезные технологические проекты в области вычислений и телекоммуникаций.
Что произошло? Вот аналогия. Представьте себе клуб людей, интересующихся поворотом кубиков «правильной стороной вверх». На ранних этапах движения кубикоповорота они начинают дискутировать о том, что значит быть кубиком правильной стороной вверх и как «верхнесторонностью» можно манипулировать. Но они умные люди, и прорывы случаются быстро; довольно скоро они приходят к идее раскрашивания граней кубиков, чтобы можно было говорить о «красной стороне вверх», «синей стороне вниз» и так далее. Через несколько лет они устанавливают фундаментальные теоремы об ориентации кубиков, и общество объявляет о грандиозном симпозиуме, где ведущие манипуляторы кубиками того времени должны обсудить новую науку о повороте кубиков.
В течение года после симпозиума клуб более или менее прекращает существование. Оказалось, что в Обществе Поворота Кубиков было две фракции, и их интересовали разные проблемы. Одна группа интересовалась созданием длинных линий кубиков, все одной стороной вверх. Другая группа хотела решать головоломки кубика Рубика.
Пока вопрос о том, что составляет ориентацию кубика, был открытым, две группы могли работать вместе. Как только этот вопрос был решён, их фундаментальное различие стало острым, потому что две проблемы не одинаковы. Группа, которая хотела делать длинные линии кубиков, могла быстро прогрессировать, потому что ориентировать сто кубиков красной стороной вверх подчиняется простому алгоритму,* применяемому сто раз.
Группа кубика Рубика, однако, всё ещё сталкивалась с трудной проблемой. Раскрашивание граней их головоломки дало бы им концепцию того, что может означать решение. Но это не решает их проблему мгновенно — более того, можно утверждать, что это ставит перед ними несколько новых вопросов, поскольку они осознают, что их первоначальная головоломка на самом деле не является стопкой из двадцати семи кубиков, а только выглядит как одна. Теперь им приходится бороться с вопросом, было ли их первоначальное видение головоломки как проблемы поворота кубиков верным. Они определённо не могут предполагать, что успехи их бывших товарищей по клубу в разработке более эффективных способов выстраивания линий красной стороной вверх будут им полезны.
Это, более или менее, и произошло с наукой кибернетикой. Одни люди интересовались информацией, потому что хотели передавать сообщения из одного места в другое или обрабатывать строки битов, представляющих числа в последовательности последовательных операций. Другие интересовались системами с множественными входами и выходами и сложными связями между ними — системами вроде мозга (а когда появился Стаффорд Бир — и организаций).
Очень быстро физики и инженеры поняли, что концепция информации связана с вещами, уже установленными в статистико-механической интерпретации термодинамики. В частности, они увидели, что информация — это разница между состояниями — система в полном тепловом равновесии в некотором смысле потеряла свою информацию. Таким образом, информация была связана с концепцией энтропии — степени, в которой энергия становится беспорядочной и непригодной к использованию, когда горячее остывает, холодное нагревается, а вселенная стремится к неизбежному застою.
Этот скачок понимания позволил применить к проблеме значительную часть существующего математического инструментария физики. Вскоре был разработан ряд ключевых концепций, связанных со способностью зашумлённого канала передавать сообщение и методами коррекции ошибок. «Теория информации» родилась. На самом деле было две её версии. В теореме Винера информация представлялась как энтропия со знаком минус и интерпретировалась как количество «порядка» в последовательности. Клод Шеннон из Bell Labs вывел ту же теорему независимо, но в его версии знака минус не было, и информация воспринималась как степень непредсказуемости последовательности — является ли она «новостью».
Версия теории информации Шеннона — та, которую сегодня помнят больше людей; она была более пригодна для коммуникаций и вычислений, поскольку (среди прочего) измеряет степень, в которой сообщение можно цифровым образом «сжать» для экономии памяти, избавившись от избыточности. Винер был достаточно щедр, позволяя приписать открытие другим, но остался при своей формулировке и считал её философски значимой.
Но быстрый прогресс в теории информации был в основном связан с операциями, которые можно было выполнять бит за битом, по одному за раз. Прогресс в сложных системах — изначальной цели кибернетиков — был гораздо медленнее. Беда со сложными системами в том, что комбинации вещей имеют свойство умножаться, а не складываться, так что количество возможных состояний очень быстро выходит из-под контроля. Даже у кубика Рубика более 43 квинтиллионов возможных состояний; очевидно, что у мозга или организации их гораздо больше. Так что одна сторона изначального кибернетического проекта всегда должна была развиваться гораздо быстрее другой. Довольно скоро все, кто мог найти способ преобразовать свою проблему в такую, где биты информации можно обрабатывать последовательно, а не в комбинации, так и сделали. А новая наука о связи и управлении осталась в пыли, подвергшись несправедливому восприятию, что она не добилась большого прогресса.
Философам и неврологам мешала не только математика комбинаций; в структуре послевоенных кибернетических исследований был и элемент «решений, которые никто не принимал». Как мы уже отмечали в отношении экономики и медицины, некоторые науки прокляты необходимостью отвечать на вопросы по мере их возникновения, а не в логическом порядке. Для ранних кибернетиков — и, следовательно, для большинства компьютерных специалистов по сей день — важнейшие, основополагающие допущения были встроены в дисциплину в 1940-х годах, во многом из-за войны. Винер впоследствии сожалел, что решил на раннем этапе: если системы управления должны использоваться для военной работы, им потребуется ряд практических свойств.
Они не могли зависеть от точных измерений из-за условий, в которых им предстояло работать. Информацию нужно было бы представлять, а вычисления производить в цифровой форме (как на счётах), а не в аналоговой (как на логарифмической линейке). Вероятно, их нужно было бы реализовать в электронной, а не механической форме; электронные переключатели можно было бы оперировать быстрее, и они не изнашивались бы. Это, в свою очередь, означало, что числа нужно представлять в виде двоичных цифр (позже названных «битами»). И поскольку каждый случай, когда информация вводится человеком или выводится для человеческого понимания, замедлял бы процесс и создавал возможности для ошибок, как можно большая часть процесса должна была быть переложена на машину.
Эти решения означали, что исследования других видов вычислений будут продвигаться медленнее, в то время как темпы совершенствования цифровых электронных вычислений ускорялись прогрессом электронной промышленности в производстве более дешёвых и меньших переключателей для представления двоичных кодов. Это также означало, что исследовательская программа будет сосредоточена на автоматизации того, что можно автоматизировать, а не на перепроектировании целых процессов; вычислительные машины должны были быть вброшены в существующие организационные структуры как инструменты для ускорения задач, которые уже выполнялись.
Трудно сказать, что это были неправильные решения — миниатюризация транзисторов прогрессировала быстрее, чем кто-либо ожидал, как и внедрение компьютеров в промышленность и правительство. Но многие люди, участвовавшие в кибернетике, казалось, считали это упущенной возможностью; Стаффорд Бир говаривал, что использование компьютеров в 1970-х было сродни тому, как если бы компании наняли величайших гениев человечества, а затем заставили их заучивать телефонную книгу, чтобы экономить несколько секунд на перелистывании страниц.
Хотя их и оставили позади, истинно верующие в кибернетку боролись дальше. Прогресс в теории информации не привёл к немедленным результатам, но он дал им язык для обсуждения проблем, которые они хотели решать.
Это были такие люди, как Росс Эшби и Грей Уолтер.* Оба работали в больнице на окраине Бристоля под названием Бёрденский неврологический институт, и кибернетика была среди путей, по которым они пошли, пытаясь понять, что происходит не так в головах их пациентов. Уолтер был изобретателем машин для сканирования мозга, а Эшби начинал как биохимик, изучавший ферменты, выделяющиеся в результате электросудорожной терапии.* Они были одними из первых создателей машин, демонстрировавших, как сложное поведение — черепахи, ищущие свет (и становившиеся «невротичными», если их собственный рабочий свет отражался в зеркале), гомеостат, перебиравший комбинации настроек для достижения равновесия — может возникать из сравнительно простых наборов связей.
Идея была в том, что если эти чудесные игрушки можно собрать из простых паяных жгутов проводов, то уж нейронная сеть со связями в масштабе человеческого мозга наверняка может породить сложность разума. Из всех кибернетиков британские неврологи были наиболее преданы возможности искусственного интеллекта (Эшби даже написал книгу «Дизайн для мозга»), что означало хождение по канату между наукой и метафорой. Попытки строить вещи означали, что всё нужно было сохранять конкретным, но теория информации не могла быть напрямую применена к массово связанным системам. Нужно было найти способ описания, одновременно строгий и репрезентативный для реальности. Как скажут вам экономисты, это непросто.
В то время как американская традиция кибернетики была в основном основана на шенноновской версии теории информации как мере предсказуемости и избыточности последовательности символов, передаваемой по зашумлённому каналу, их британские коллеги были больше привержены видению Винера: информация как разница между порядком и хаосом. Частично чтобы подчеркнуть это различие, они начали говорить о чём-то, что называли «разнообразием» (variety) — величиной, подобной информации, но в контексте больших систем и когда речь идёт о контроле, а не о передаче. Грубое определение: разнообразие системы — это количество состояний, в которых она может находиться; у этого грубого определения есть также полезная особенность: оно немедленно поднимает вопрос: «Что значит "количество состояний, в которых она может находиться"? Это звучит очень расплывчато и неточно».
Разнообразие — это не внутреннее свойство чего-либо; это свойство того способа, которым вы решаете описывать это. И это большой шаг, который должны были сделать британские кибернетики: вместо работы с полной информацией, их работа начинается с утверждения о том, как они будут рассматривать систему — на какие чёрные ящики они её разделят и какие свойства и состояния этих ящиков будут включены в их модель.
Как только вы сделали этот начальный шаг, вы можете использовать тот же математический инструментарий для обсуждения разнообразия и контроля, который инженеры связи используют для обсуждения информации и коммуникации. Если задуматься, способность коммуникационного канала передавать сообщение, очевидно, будет иметь некоторое отношение к способности системы управления реагировать на возмущения. Это отождествление информации и контроля как парных величин лежит в основе того, что Стаффорд Бир называл кибернетическим эквивалентом законов движения Ньютона — «принципа необходимого разнообразия», сформулированного У. Россом Эшби.
Этот закон гласит, что всё, что претендует на роль «регулятора» системы, должно обладать по меньшей мере таким же разнообразием, как эта система. Чтобы понять, что это значит, нам нужно немного углубиться в теорию кибернетики. Но пока, для высокоуровневого метафорического понимания,* подумайте о том, как вы управляете различными видами транспортных средств. Поезд может двигаться только вперёд и назад, так что ему нужна одна рукоятка. Машина может поворачивать, поэтому её система управления требует руль для представления дополнительного измерения. А самолёту нужен джойстик, а не руль, потому что он может делать два вида поворотов. Посмотрим, куда кибернетики повели эту идею.
### Клуб разнообразия Великобритании
Давайте подведём итог. Способ работы с массово сложными системами, согласно кибернетикам, — разделить их на чёрные ящики с управляемым набором входов и выходов. Комбинации этих входов и выходов всё равно будут неуправляемыми, но это может не иметь значения; хотя у кубика Рубика 43 квинтиллиона возможных состояний, вы можете рассматривать его как шесть граней, при повороте передающих цветные квадраты друг другу предсказуемым образом, и решать его так. Важный момент — правильно описать систему в терминах чёрных ящиков и попытаться понять отношения между ними.
Это искусство и наука кибернетики. Искусство — в описании системы — вот где появляются метафоры и аналогии, где вы должны решить, больше ли национальная система производства пшеницы похожа на мозг или на секундомер. Но как только вы определились с набором чёрных ящиков, всё становится более научным. Всё определяется законом необходимого разнообразия Эшби: данная система может достичь стабильности только если каждый источник изменчивости из среды уравновешен равным или большим источником разнообразия в регулирующей системе.
Эта концепция «уравновешивания» ключевая при переходе от игрушечных систем к реальным — очевидно нелепо пытаться подсчитать, сколько битов информации конкретный взрослый человек может воспринимать в любой данный момент, но мы все знаем, как выглядит человек, когда он перегружен. Во многих контекстах легче проверить, больше или меньше разнообразие системы, чем её входов, чем концептуализировать фактическое количество битов.
Это первый и самый важный принцип управленческой кибернетики. Стаффорд Бир иногда называл то, чем занимался, «разнообразие-инжинирингом» (variety engineering). Под этим он подразумевал процесс проверки того, что закон необходимого разнообразия соблюдается во всех точках системы, где одна вещь должна регулировать другую. Если менеджер или управленческая команда не имеет информационно-обрабатывающей способности, по меньшей мере равной сложности того, за что они отвечают, контроль невозможен, и в конечном счёте система станет нерегулируемой.
Как и с законами движения, всё усложняется, когда вы начинаете применять принцип достаточного разнообразия к любой реальной системе. Но ранние кибернетики быстро открыли принципы разнообразие-инжиниринга, которые могли указать, развалится ли система. Первый трюк — начать давать имена разным типам чёрных ящиков и связям между ними. Давайте сначала рассмотрим крошечный упрощённый пример — как бы мы обработали в форме чёрного ящика простую систему, состоящую из клетки с белкой внутри?
Для некоторых целей мы могли бы захотеть рассматривать клетку и белку как отдельные чёрные ящики, но мы могли бы также сказать, что это один чёрный ящик с набором выходов, состоящих из измерений, относящихся к белке (её вес, температура тела, пульс) и к клетке (температура окружающей среды, светло или темно и так далее). Затем мы можем определить набор диапазонов выходных переменных, соответствующих «эта белка способна выжить».* Это может быть простой список приемлемых диапазонов значений для каждого измерения, или он может быть сложным, если некоторые переменные взаимодействуют — например, если белке нужно, чтобы часть времени было светло, а часть — темно. Если мы оставим систему в покое, измерения будут в основном зависеть от случайных возмущений и от течения времени. Кроме того, если мы оставим систему без присмотра, одна или другая выходная переменная скоро выйдет из набора выживания (что означает, что белка умрёт). Таким образом, нашей модели общей системы потребуется ещё один чёрный ящик — «регулятор» — представляющий действия, предпринимаемые для поддержания жизни белки.
Регулирующая система может состоять из многих компонентов или всего из одного — кибернетически это просто чёрный ящик, у которого среди входов есть выход системы с белкой, а среди выходов — входы системы клетки. Пока мы думаем о системе только в её роли обеспечения регулирования для клетки, открытие чёрного ящика не даёт ничего. (Если бы мы думали о ней в контексте более широкой системы — скажем, как о части университетской исследовательской лаборатории, которой нужно думать о бюджетах, счетах за отопление, кадровой политике и так далее — нас могла бы заинтересовать природа компонентов, рассматриваемых как часть другой системы.)
Система «стабильна» или «регулируема», если регулятор способен удерживать выходы в пределах их диапазонов «выживаемости для белки». Мы оцениваем его способность делать это, сравнивая разнообразие потенциальных возмущений с разнообразием регулятора.* Некоторые из этих сравнений просты — освещение имеет два состояния, «светло» и «темно», и белке нужно примерно равное количество и того, и другого, так что регулятору нужен источник света с одним битом информации (выключатель, включено/выключено). Когда разнообразие регулятора соответствует или превышает разнообразие среды, можно регулировать систему — в нашей клетке с белкой то, светло или темно, определяется исключительно желаемым значением выхода, вообще без влияния среды.
Представление температуры окружающей среды в системе более сложно, поскольку она меняется непрерывно. Мы можем либо определить «слишком жарко» и «слишком холодно» и иметь нагреватель, который можно включать и выключать, либо изобрести нагреватель, мощность которого также можно изменять непрерывно. В последнем случае разнообразие входа и выхода уравновешено; хотя мы не можем подсчитать возможные значения, которые может принимать температура окружающей среды, мы знаем, что их можно поставить в соответствие настройкам нагревателя. В первом случае, однако, мы сделали нечто более интересное — наш первый акт «аттенюации разнообразия».
### Разнообразие-инжиниринг для начинающих
Температура окружающей среды в нашей клетке с белкой может принимать практически любое значение (в реалистичном диапазоне). Если мы примем решение сократить наш информационный набор до «слишком жарко» и «слишком холодно», мы можем сопоставить его с регулятором, имеющим состояния «нагреватель включён» и «нагреватель выключен»; мы построили термостат. Сделать это нетрудно — мы просто решаем выбросить часть информации, исходя из предположения, что она не имеет значения.
Это может оказаться плохим решением, конечно (если температура окружающей среды поднимется выше 100 градусов, например, возможно, потому что лаборатория горит), но это даёт огромную экономию в количестве разнообразия и информации, необходимых нам в регуляторе. Такого рода решения фундаментальны для кибернетического анализа систем; вы всегда так или иначе аттенюируете разнообразие, если только вы не описываете систему, состоящую из всего во вселенной. Сам простой акт рисования чёрных ящиков — форма аттенюации, поскольку это утверждение о том, на что вы будете обращать внимание.
Рука об руку с аттенюацией разнообразия идёт концепция «амплификации разнообразия», которую понять сложнее. Вы не можете реально усиливать разнообразие; информация связана с энтропией, так что её усиление нарушало бы второй закон термодинамики. Но вы можете сделать тот же трюк, что используется в стереоусилителе, где маленькое напряжение используется для включения и выключения гораздо большего, создавая иллюзию, что маленький звук стал громче. Соответствующий ход в разнообразие-инжиниринге — построить регулирующую подсистему внутри более широкого регулятора.
Опять же, пример термостата может быть самым простым способом понять это, если мы немного его расширим. Если у вас одна клетка с белкой, вы можете регулировать температуру сами, глядя на термометр и поворачивая отопление. Если у вас сто белок, за которыми нужно ухаживать, все в разных комнатах, задача становится значительно сложнее. Но, сделав одноразовую инвестицию и установив механические термостаты на каждую клетку, вы можете использовать другой источник разнообразия (воздействие среды на термочувствительный выключатель), чтобы воспроизвести огромное количество решений, которые вы не смогли бы принять по отдельности.
Размышление о термостате также напоминает об одном из самых мощных приёмов амплификации разнообразия — «регулировании вето». Оно работает путём разделения всего потенциального диапазона температур на две области, которые можно определить как «приемлемо» и «слишком низко». Если температура слишком низкая, термостат накладывает вето на текущее состояние системы. Если мы представим, что вместо включения и выключения электронагревателя термостат работает, открывая или закрывая окно, мы можем поместить его в конкуренцию с другим датчиком — скажем, датчиком углекислого газа. Если обе эти системы имеют вето на то, открыто окно или закрыто, система либо установится в состояние, в котором регулируются и вентиляция, и температура, либо будет колебаться и потребует вмешательства более высокого уровня.
Регулирование вето — мощный способ решения огромных и сложных поисковых проблем, потому что наложение вето на ситуацию как неприемлемую — информационно очень «дешёвое» действие. Росс Эшби продемонстрировал это, построив «гомеостат» из электрических цепей. Схема была устроена так, что каждая из четырёх соединённых стрелок компаса действовала как вольтметр, либо плавая в середине своего диапазона, либо оттягиваясь в сторону локальным электромагнитным полем. Она также была устроена так, что когда стрелка оттягивалась в сторону, диск напряжения в её углу таблицы случайным образом перебирал свои возможные настройки, что означало наложение «вето» на текущую конфигурацию системы. Если стрелка плавала в середине диапазона, перебор останавливался, указывая, что текущая конфигурация «приемлема» для этой стрелки.
Все четыре стрелки компаса делали это одновременно, пока все не достигали плавающего положения, после чего система становилась стабильной. Четыре связанных входа с тридцатью состояниями каждый означали, что система могла иметь 810 000 возможных комбинаций состояний. Но гомеостат достигал точки стабильности быстро и всегда мог восстановить её при изменении настроек.
Я привёл здесь ещё один трюк разнообразие-инжиниринга — и он почти так же важен для кибернетики организаций, как амплификация и аттенюация. В начале этого примера я говорил о системе «белка плюс клетка» как об одном чёрном ящике, но затем начал говорить о температуре окружающей среды клетки как о самостоятельном феномене. Не жульничество ли это?
До некоторой степени — да. Приём, который я использовал — это разделение большой проблемы на набор меньших проблем. Как вы, возможно, помните из Общества Поворота Кубиков, это сильно меняет дело в плане сложности — если разбить ваш кубик Рубика на двадцать шесть подкубиков, вы можете «решить» их все быстро. В данном случае принятие этого метода амплификации/аттенюации разнообразия* и разрушает кубик, и не решает проблему. В задаче с клеткой и белкой, однако, для большинства целей температура окружающей среды может быть отделена от еды, воды и других переменных. И чем больше переменных вы можете так разделить, тем больше усиливается ваша способность к регулированию.
Более того, ограничения на способность исходного регулятора строить подсистемы только практические. Проще говоря, если вы можете построить один термостат, вы можете построить тысячу. Это один из ключевых ходов в кибернетике, и особенно жизненно важный для управленческой кибернетики. Столкнувшись с неуправляемыми информационными потоками в организациях, мы можем строить системы, регулирующие входящее разнообразие, действующие настолько, насколько возможно, через цепи причин и следствий, а не через необходимость принятия решений отдельными менеджерами.
Эта концепция — оригинальное «решение, которое никто не принимал», с фирменной структурой причина-следствие, которая затрудняет обжалование и устраняет связь с ответственным лицом, принимающим решения. Щит безответственности — это одновременно и решение, и проблема.
Модель клетки с белкой показывает, как можно анализировать и конструировать системы управления с помощью разнообразие-инжиниринга — обеспечивая, чтобы у регулятора было достаточно информационно-обрабатывающей способности для работы с чем угодно. Мы видим, что из нашего исходного примера с одной клеткой, одной белкой и человеком-оператором можно расшириться до небольшой беличьей фермы с сотнями клеток. На этой ферме исходный оператор будет аттенюировать разнообразие входов, делая разумные предположения о политике содержания белок, и усиливать своё собственное разнообразие, устанавливая термостаты и нанимая людей для взвешивания грызунов и уборки клеток.
Дальнейшие осложнения возникают, когда вы начинаете рассматривать более крупные и реалистичные системы. Например, обычно нужно учитывать, что система динамична во времени, и обеспечивать, чтобы регулятор мог получать информацию быстрее, чем система генерирует разнообразие, и реагировать на неё достаточно быстро. Вам также нужно встроить в систему способность к переводу (translation capacity), чтобы каждый чёрный ящик получал свои входы в формате, который он может преобразовать в выходы. Во многих больших организациях значительная часть персонала выполняет действия, которые можно рассматривать как эквивалент записи в рецептурном блокноте ветеринара и обеспечения того, чтобы это повлияло на то, что лежит в кормушке белки.
### Инженерный провал и поломка системы
Это основной строительный блок кибернетики организаций: разнообразие-инжиниринг, направленный на согласование чёрных ящиков с их регулирующими системами. Мы видим, что это комбинация искусства, практики и науки, зависящая от описания системы в терминах ящиков и отношений между ними. Если это описание достаточно соответствует реальности, то разнообразие-инжиниринг поможет обеспечить её правильную регулируемость и покажет, где нужно добавить ресурсы или где можно сэкономить пропускную способность, используя процессы и поглотители ответственности. Но хотя разнообразие-инжиниринг — научный процесс, исходное описание субъективно и подвержено ошибкам. Для реальной системы, а не вводного упражнения, достижение отправной точки будет включать свои собственные допущения и аналогии; оно будет зависеть от того, были ли разделены взаимосвязанные проблемы, была ли выброшена информация, которая могла понадобиться, и так далее.
Вот как кибернетики предлагали диагностировать систему — психоанализировать нечеловеческий интеллект. Системы принятия решений ломаются, если разнообразие их среды не уравновешено разнообразием их средств регулирования. По сути, система управления — это модель своей среды. Если в модели отсутствуют важные источники разнообразия среды, она переоценивает разнообразие части регулирующей системы или предполагает, что информация передаётся, когда это не так — система будет постепенно уходить из-под контроля, без обязательного понимания кем-либо почему.
Искусство заключалось в том, чтобы придумать разумное описание среды, системы и её подсистем, чтобы можно было увидеть, соблюдаются ли принципы в связях между компонентами системы и между системой и её средой. Вопрос о том, где провести линию, чтобы отделить «систему» от «её среды», часто приходится решать путём предписания. Ответ Стаффорда Бира на эту проблему заключался в разработке дополнительного набора принципов для структурирования процесса рисования чёрных ящиков и придания аналитику более ясного понимания того, какие связи необходимо установить. Он основывал это частично на своей собственной работе в управленческом консалтинге, а частично на общих выводах о том, на что должна быть способна система, чтобы оставаться регулируемой и упорядоченной в меняющемся и хаотичном мире. Это был его большой вклад; хотя всё было построено на законе необходимого разнообразия Эшби, именно «модель жизнеспособной системы» (viable system model) подкрепляла его претензию на звание отца управленческой кибернетики.
\* *Фонд Джозайи Маки спонсировал конференции для учёных, представлявших результаты своих исследований в междисциплинарной среде. Эти конференции охватывали ряд тем, loosely связанных с науками о мозге, но именно серия по кибернетике действительно всех взволновала.*
\* *Проверьте, есть ли у вашего кубика красные грани — если нет, выбросьте его — если да, выберите одну из красных граней случайным образом, поместите кубик в конец линии этой гранью вверх, затем возьмите следующий кубик.*
\* *Уильям Росс Эшби и Уильям Грей Уолтер, если быть точным. Почему-то кибернетики любили отбрасывать свои первые имена.*
\* *Связь между их медицинской практикой и кибернетическими теориями расстраивающе размыта. С одной стороны, из дневников и опубликованных работ ясно, что они считали кибернетику возможным путём к строгой науке о разуме. С другой стороны, социолог науки Эндрю Пикеринг перебрал почти все документы Эшби в поисках признака того, что у него была кибернетическая интерпретация электросудорожной терапии, и с сожалением заключил, что доказательств просто нет.*
\* *Честно говоря, часто это всё, что вам действительно нужно в этих контекстах. Вся чёртова кибернетика сделана из метафор и высокоуровневых аналогий. Это не информатика, где можно указать на состояния, биты и схемы на куске кремния.*
\* *Чтобы быть строгим, я должен сказать: «белка способна выжить до следующего снятия показаний». Согласование частоты наблюдений с частотой, с которой могут происходить вещи с состоянием системы — важная часть кибернетики; постоянные ссылки на это сделали бы объяснение слишком нагруженным, но об этом стоит помнить, и оно получит должное значение, когда мы начнём говорить о практических реализациях.*
\* *Должно быть очевидно, что это означает, что «стабильность» не является внутренним или объективным свойством чего-либо физического в реальном мире — это свойство того, как вы решили анализировать систему, какие переменные вы определили как критически важные, их наборы выживания и так далее. Кроме того, всегда будут некоторые виды потрясений, с которыми система не справляется. Но это скрывает гораздо более важный момент о стабильности: есть большая разница между системами, которые стабильны только для известного диапазона потенциальных потрясений, и теми, которые могут адаптироваться по крайней мере к некоторым потрясениям за пределами диапазона, предвиденного их проектировщиком. Росс Эшби называл второй тип систем «ультрастабильными», что стало своего рода родительской концепцией того, что Стаффорд Бир называл «жизнеспособностью» (viability) — потенциалом сохраняться как независимая сущность.*
\* Во многих случаях вопрос «это аттенюирует разнообразие среды или усиливает разнообразие регулятора?» лучше оставить философам (см. с. 67). Это вопрос кибернетики-как-описания, а не кибернетики-как-строгой-теории. Конвенция в литературе по управленческой кибернетике, насколько я могу судить по контексту, такова, что Стаффорд Бир и его последователи склонны говорить об «амплификации», когда совершенно очевидно, что кто-то строит устройство, внедряет систему управления или нанимает подчинённых, и об «аттенюации» в большинстве остальных случаев.