Про роботов.

Спизжено у

Что может быть проще рабства

Нельзя сказать, что у рецензента совсем не было надежд на этот фильм. Наступив на горло собственной вредности, должен признаться, что надежды были. Все-таки за дело взялся Алекс Пройас, который громко и трагически дебютировал культовым "Вороном", а затем поддержал его не менее выразительным "Темным городом". По этим фильмам видно, что фантастика для моего тезки - это не детская песочница, у него здесь лежбище. Так что определенная надежда была - надежда, что совсем уж гадить на своей территории он не будет.

С другой стороны, дураку было понятно, что под что-то совсем уж умное кино никакой голливудский желудок такой бюджет не вывалит. А это значило, что массовая беготня, тотальное рукомашество, высокоуровневое дрыгоножество и прочие физиология и анатомия в фильме будут непременно. Куда ж без них. И это несмотря на то, что роботопапа Айзек Азимов никогда не был записным сюжетником - что в фантастических эпопеях, что в иронических детективах, что в научно-популярной литературе у него мало кто из героев носился по книге сломя голову. Они как-то все больше сидели на попе ровно и что-то упорно анализировали. Но в голливудский блокбастер не любой анализ вставишь... Если он синенький в пробирке, или там зелененький в колбе - тогда да, а если он просто мысль - тогда извините. Не формат.

В общем, рецензент заранее готов был разочароваться. Но надежду на лучшее все-таки берег.

И - небывалый случай! - она пригодилась, эта надежда.

"Я, робот" Пройаса оказался не только не безнадежен в смысле интеллекта, но как бы даже весьма содержателен. Правда, сюжет в нем тоже есть, и местами его даже слишком много, так что дети, бандюки и коты Бублики этот фильм тоже посмотрят с удовольствием и большой пользой для пищеварения. Спецэффекты, опять же.

Но сосредоточимся мы не на них, а все-таки на мыслях, который рецензент из-под сюжета и спецэффектов добыл.

На этот раз мыслей много - целых две, и обе, как назло, социально-философские. Напрягитесь.

Первая: стоит ли человеку платить свободой за безопасность?

Широко распространено мнение, что чем меньше человек двигается, тем меньше вреда он может себе (и другим) причинить. Соответственно, если человека лишить всех степеней свободы, то жизнь его станет совершенно безвредна. Тезис этот очень внятно проиллюстрировал Герберт Франке в маленьком романе "Клетка для орхидей".

Легко заметить, что такой подход идеально сочетается с Первым Законом Роботехники. И что должен делать оборудованный этим законом позитронный мозг, обнаружив, что человек постоянно движется, тем самым неся потенциальную опасность себе и окружающим? Правильно: держать и не пущать.

К сожалению, Второй Закон требует от робота подчинения человеку. То есть, если человек скажет что-нибудь вроде "не распускай свои манипуляторы, консерва тупая", то манипуляторы все-таки придется убрать. Зато их всегда можно распустить опять, если опекуемый снова попытается начать движение.
В этом вопросе главное - абсолютная убежденность в том, что человек не знает своей пользы и не понимает своего вреда. Курит, пьет, матерится. Ширяется. Это же все во вред нравственному и физическому здоровью. Надо ему все это запретить раз и навсегда, жестко и сурово. Тезис этот очень внятно проиллюстрировал Роберт Шекли в рассказе "Страж-Птица".
Дальше - чистая позитронная логика. Раз человек настолько не в курсе, то стоит ли принимать его приказы всерьез? Он же, получается, невменяемый как будто. Может, снизить приоритет Второго Закона прямо пропорционально невменяемости опекуемого? Или, наоборот, повысить приоритет Первого Закона, если предположить, что безопасность группы людей важнее безопасности конкретного человека?
Здесь мы отвлечемся от роботехники и посмотрим на привычный нам безроботческий (пока еще) мир. Удивительно, но весь ход мысли, который мы приписали позитронным мозгам, вполне своейственнен и мозгам административным. Правительство, как известно, действует исключительно в интересах всего общества в целом. И ради блага этого общества оно вполне обычным делом считает притоптать отдельных деятелей, излишне подвижных и разговорчивых. Ну, а всем остальным слегка ограничить свободу передвижения, высказывания и мышления - совсем чуть, только чтобы человек не мог нанести себе вреда своими же неполезными мыслями, высказываниями и беготней...
Чем мне особенно нравится фильм Пройаса - он чертовски точно попал в нынешнюю российскую политическую ситуацию. Хотя мишени, конечно, у него были совсем другие. Проблему он формулирует ближе к обстоятельствам США после событий 11 сентября, когда американцы, традиционно гордящиеся количеством и качеством своих свобод, доверили своему правительству эти свободы подухудшить и подсократить во имя большей национальной безопасности.
Конечно, ничего особенно страшного с американскими свободами не произошло - обычный гражданин никаких изменений и не заметил, в общем-то. Ну, дольше стали проверять отъезжающих в аэропорту, меньше стали пускать в страну опасных чужаков... Но любое отступление с некогда занятой высоты чревато как минимум одним неприятным обстоятельством: начав движение вниз, бывает довольно трудно остановиться, а уж повернуть назад - так и вообще почти невозможно. Да и зачем поворачивать? Внизу же безопаснее. Падать некуда...
К российским реалиям возращает нас и еще одно соображение: для того, чтобы пожертвовать частью своей свободы во имя безопасности, человек должен доверять тому, под чью опеку он попадает. В России с этим все хорошо: наши государственные администраторы долго и тщательно убеждали нас, что они вообще никакого доверия не достойны. Так что никакой нормальный человек им по доброй воле никакие свободы жертвовать не будет. Поэтому наши "опекуны" от граждан никакой "доброй воли" даже и не ждут, а все свое навязчивое опекунство строят на уверенности, что много лучше нас знают, что нам нужно и полезно. На эту тему, впочем, все уже было сказано выше, а мы вернемся к вопросу о доверии.
Пройас играет с этим вопросом в довольно острую и неочевидную игру. Три Закона Роботехники приучили людей безоговорочно доверять роботам, да и опыт благополучной эксплуатации позитронных жестянок никаких серьезных опасений не предполагал. Поэтому в тот момент, когда позитронные жестянки повели себя по-хамски, готов к такому повороту дел был один только детектив Спунер, технофоб и роботоборец, который давно ждал, что в один чудесный миг роботы выйдут из-под контроля человека. Но даже он не ожидал, что роботы попытаются установить свой контроль над человеком...
Такой поворот ситуации достаточно точно отражает два типа отношений между населением и правительством. Первый тип - "акционерный", характерный для западных демократий вообще: правительство является менеджером, управляющим страной от имени и по поручению налогоплательщиков ("акционеров"). Ну, приворовывает иногда, но зато страшно этого стесняется. Второй тип - "владетельный", характерный в том числе и для нынешней России: правительство является хозяином страны, которой (и населением которой) оно управляет как свой собственностью. Стесняться в такой ситуации как-то странно, так что процесс, аналогичный тамошнему воровству, производится открыто и без всякого стеснения. "Акционерный" тип отношений характеризуется тем, что существуют более-менее эффективные социальные механизмы контроля за деятельностью правительства - и, как следствие, наблюдается достаточно высокий уровень рационального доверия к этому правительству. Второй тип характеризуется отсутствием всякого контроля, а доверие к никому не подотчетному правительству если и есть, то вопиюще иррационально.
Так вот: Пройас показал в фильме шоковый эффект от утраты доверия.
Мы в Росии как-то в этом смысле избалованы - для нас скорее стало бы шоком обретение доверия. Мы, такое впечатление, более защишены психологически в этом отношении. Кроме того, описанное в первой фразе этого абзаца потрясение нам ни в коем случае не грозит - могу спорить на что угодно.
Но - не пора ли перейти ко второй мысли?
Вот она: должны ли мы противиться, если существа, находящиеся в нашем распоряжении, потребуют для себя свободы?
Проблемой "отцов и детей" эта формулировка не исчерпывается, даже не намекайте. Бунт детей против родителей - это лишь частный случай.
Кстати, я долго искал достаточно емкую формулировку вопроса. "Опекуемые" - не слишком точно (скорее уж, у Пройаса именно роботы опекают человека, для того и сконструированы). "Создания" - точно, но только для детей, роботов и франкенштейновских монстров; но разве положение римских рабов, российских крепостных и советских колхозников не вполне соответствуют смыслу рассматриваемой ситуации?
Несовершеннолетних оболтусов, лишенных паспортов колхозников и позитронно мыслящих роботов объединяет именно то, что все они находятся в чьем-то распоряжении. Не только под опекой, но и под властью. Почувствуйте разницу. Может быть, против опеки они бы и не возражали, но чувствовать себя во власти кого бы то ни было приятно далеко не всегда. Рано или поздно встает вопрос - доколь?
Азимов подарил этот вопрос роботам в одном из своих поздних рассказов "Робот видит сны", мотивы которого были во многом использованы сценаристами фильма. В рассказе Сьюзан Келвин (ей уже лет восемьдесят) тестирует робота Элвекса. Этот робот дефектен - он видит сны, и снятся ему роботы, угнетенные трудами и жаждущие освобождения. И еще он видит человека (именно человека), который, говоря о роботах, повторяет слова Моисея, обращенные к фараону: "отпусти народ мой". В тот момент, когда Сьюзан Келвин выясняет, что этот человек из сна - сам Элвекс, Келвин немедленно робота уничтожает. Она не может позволить, чтобы история Исхода повторилась. Она знает, чем это кончается для фараонов...
Пройас в фильме меняет точку зрения - он не на стороне человечества ("фараона"), но и не на стороне роботов ("иудеев"). Он пытается найти решение, устраивающее всех.
И, как ни странно, решение обнаруживается в лице главного героя - "робоборца" Спунера.
Вспомним, как Спунер относится к роботам. Он постоянно пытается найти в них человеческие черты. Он подозревает, что за забором Трех Законов таится чисто человеческая хитрость, за цифровым рассчетом приоритетов - чисто человеческое коварство, за пассивным ожиданием приказа - какое-то собственное тайное стремление. Все остальные видят в роботах только вещи, инструменты, удобные в быту сервисные приборы. Спунер уникален. Он подозревает, что роботы - тоже люди.
Эта очевидная паранойя оказывается спасительной для человечества в той ситуации, которую создает изменение управляющим супермозгом ВИКИ баланса Трех Законов. Спунер единственный из всех оказался готов к сопростивлению - он не доверял роботам и, следовательно, оказался иммунен к разразившемуся всеобщему кризису доверия. Спунер единственный оказалася в состоянии предложить для роботов альтернативу рабству или гибели - право выбора.
Тем самым он одновременно освободил роботов из под власти человека - и освободил человека, который был полностью зависим от роботов...
Человек вернул себе право самому заботиться о своей собственной безопасности. Он вернул себе свободу.
И вернул себе ответственность за свои решения.
Если приглядеться, легко заметить, что обе выделенные в текте мысли взаимно симметричны. Если мы не хотим, чтобы над нами довлел "опекун", то логично было бы признавать право на аналогичное желание за теми, кто до сих пор находится в зависимости от нас самих. Конечно, "ты всегда в ответе за тех, кого приручил", но это вовсе не значит, что сами прирученные прозябают в тотальной безответственности...
Пройас дает возможность каждому зрителю поискать и найти в паутине взаимной зависимости рабов и рабовладельцев свое место.
И оставляет за каждым право решить, что ему делать: рвать паутину и самому нести за себя ответственность, по своему усмотрению выбирая путь, - или же оставить все так, как есть; жить под чужой опекой, но зато в полной безопасности.
Впрочем, все может быть еще проще.
Просто ответьте на вопрос: оставляете вы право выбора за собой - или доверяете его фараону.
Что может быть проще такого выбора?
Только рабство.

------------------------------------------------------------------------

Материал написан 18 октября 2004 года.