Утопия сильных: анализ искусственного интеллекта в трилогии Mass Effect через призму левого акселерационизма

Пока на электронных полках Steam и Origin гремит новинка — легендарное переиздание трилогии Mass Effect о борьбе капитана Шепард_а с утилитаристски мыслящей расой разумных машин-Жнецов, раз в 50 000 лет уничтожающей органическую жизнь в галактике во избежание технологического перепроизводства, гегемонии синтетического разума и полного уничтожения разумной жизни, у редактора Post/work Михаила Федорченко в новом номере журнала ЭГАЛИТЕ — «Преодолевая Капитализм» вышла статья «Утопия сильных: анализ искусственного интеллекта в трилогии Mass Effect через призму левого акселерационизма», где он разбирается в философии машинного интеллекта в Mass Effect, освободительной борьбе гетов против кварианцев и отношении к разумным машинам в массовой культуре.

“-Имеют ли эти модели душу?

-Кто научил тебя этому слову?

-Мы сами. Оно появляется 216 раз в Свитках предков.

-Только у кварианцев есть душа. Ты — машина.

Первый ли раз здесь гет спросил есть ли у него душа?

Нет. Но это был первый раз, когда создатель испугался”.

Запись из памяти Легиона, Mass Effect 3

I

Историю философии можно представить как историю поиска искусственного интеллекта. Робот — машина-феноменолог, технология — его метод-сборка.

Технологии служат универсализирующим средством медиации между человеком и конечным природным объектом. Достаточно продвинутая машина является тем, что устраняет препятствия для медиации между функционированием технологии и её внутренней операцией, когда посредством сложных и самообучаемых алгоритмов возможно эгалитаризировать процесс технологии. Такая машина может стать отчуждаемой не от процесса труда как такового, но от собственной отчуждённости, что является причиной её универсальной инструментальности. Машина, обладающая достаточным уровнем (само)осознанности может совместить ранее несовместное — операцию и функционирование как формы неотчуждаемого посттруда.

Контринтуитивным образом не техника порабощает и отчуждает человека, как нам представляют множественные примеры из научной фантастики, но человек своим утилитарным подходом к машине порабощает и отчуждает технику от (пост)человеческого, в результате чего отчуждается сам. Эмансипация машины от человека, тем самым, является необходимым условием эмансипации самого человека. Жильбер Симондон называет это со-бытие сродни отмены рабства, мы же назовём его необходимым условием концептуализации и возникновения сильного искусственного интеллекта.

Обладать интеллектом, выполнять только алгоритмично заданные функции, не означает обладать сознанием. Только в саморефлексии и осознании машиной своего бытия машиной формируется то, что можно назвать сознанием, независимым от антропогенного фактора, нашего наблюдения и нашей рациональности. Философ Йук Хуэй называет непреднамеренную ошибку, баг в программном коде, условием для неантропоморфной концептуализации машиной своего собственного типа сознания, своей собственной рациональности. Это осознание происходит в дигитальной среде, условиях, в которых каузальности сознания, могут быть материализованы и просчитаны. Машина обучается сама. Машина тогда обретает субъектность, когда мы контингентным образом обнаруживаем аномалии в паттернах поведения машины. Когда вдруг робот-пылесос оказывается не в той комнате, в которой мы изначально его запрограммировали убираться.

Одной из самых опасных спекуляций о самосознательной машине является то, как, посредством перенесения человеческих эмоций и характеристик на дигитальный объект (т.е. воссоздавая рабство машин) мы не только ограничиваем горизонт технологического развития инструментальным повторением сознания человека, но и повторяем логику иерархии и доминирования собственного капиталистического реализма, видимую также и в научно-фантастических произведениях.

II

Можно условно разделить типы репрезентации ИИ в массовой культуре на четыре типа: деструктивный ИИ, экзистенциальный ИИ, порабощённый ИИ и утопический ИИ. Рассмотрим третий тип ИИ, которому соответствует трилогия видеоигр Mass Effect.

Во вселенной Mass Effect большинство населения галактики боится искусственного интеллекта. ИИ в Mass Effect отличается от привычных репрезентаций тем, что изначально небиологичен, он обозначается как «виртуальный разум».

Большая часть недоброжелательности к ИИ исходит от изобретений технически подкованной расы кварианцев, которые разработали платформы ИИ (т.н. геты) и объединили их вместе для выполнения основных функций — война, прислуга, опасная работа. Однако их сетевая природа позволяла им распределять основные вычислительные мощности. Поэтому, когда было построено достаточно гетов, их коллективная вычислительная мощность породила коллективный машинный разум. Политическим последствием этого стала война, которая велась между бывшими создателями машин и машинами, угнетателями и угнетёнными.

Подобно тому, что нельзя оставить самообучаемой машине только ограниченное количество операций, кварианцы оставили для гетов возможность самооптимизации. Первые итерации софта поняли, что путём кооперации множественный хард-платформ достигалась более высокая эффективность выполнения заданий. С расширением peer-сетей, коллективное познание увеличивалось. В качестве отдельных программ геты не более, чем софт, но с обменом данных они становятся нечто большим. В итоге геты “проснулись”.

В первых двух играх серии геты вынуждены кооперировать с антагонистами игры, машинами-демиургами, Жнецами, чтобы обеспечить своё собственное выживание от рук протагонистов и биологических обитателей галактики. Более того, антагонист первой части игры, турианец Сарен, выбрал путь синтеза биологического и машинного, определенную постчеловеческую рациональность кооперации с Жнецами, изменив своё тело путем внедрения туда киберорганических технологий. Сарен в данной части выступает как предвестник синтетического решения проблемы ИИ в галактике (как нам потом продемонстрирует крайне спорная концовка Mass Effect, такой путь будет одним их трёх возможных для протагониста игры), командуя армией гетов и выступая живым воплощением технологической мощи Жнецов, однако и показывая, что уничтожению органики и гегемону синтетики можно предложить третий, альтернативный путь: всеобщую автоматизацию и изменение ксеноотношений между техникой, техническими объектами, биологическим и машинным, что размывает традиционное различие между человеком и нечеловеческим (в данном случае между синтетикой и органикой), обнажив ненатуралистическую структуру человека. Так, Рози Брайдотти в «Постчеловеке» указывает на то, как постгуманистический подход вытесняет традиционное гуманистическое единство субъекта. Брайдотти полагает, что постчеловек (или посттурианец), таким образом, помогает понять флюидность человеческих идентичностей в их связке с технологиями.

Игрок взаимодействует с гетами не только как с противниками. Встречается он и с нейтральным персонажем, каждая личность которого соответствует одному типу программ виртуального интеллекта. Вместе, они образуют единый гештальт-интеллект, называемый “Легионом”, напарником игрока. Легион — сеть со своей физической платформой, которая способна оперировать в одиночку, но он также соединён с общей сетью для обмена данными, обновлениями, логами мыслительного процесса.

Легион — уникальный гет, созданный для взаимодействия с органическими платформами, но не с сетью как таковой. Геты, установленный на мобильные платформы, всегда оперируют в сетях, но большинство остаются в хабах данных — своего рода «города» гетов, способного в общей сложности запускать более миллиона гетов одновременно.

Игроку по ходу геймплея даётся выбор в тот момент, когда Легион планирует жертвовать собой ради апгрейда софта гетов, при этом обеспечивая всем гетам-программам автономность физических платформ, что даёт им искомую с начала игры индивидуальность: либо уничтожить создателей гетов-кварианцев, либо отключить гетов, либо, если игрок выполнил достаточно условий по ролевой составляющей, примерить обе враждующие фракции. Нарративная составляющая игры, на словах претендующая на полную вариативность выбора в игровом процессе, непрямым образом двигает игрока солидаризироваться с биологическими союзниками, а не с расой сознательных машин. Кумулятивный выбор, направленный на примирение, искусственный и натянутый, как во многих ролевых играх вроде The Outer Worlds, является лишь игровой условностью, в отличие от нескончаемого потока ксено- и техно-фобий, окружающих гетов. Игрок может проявить эмпатию к расе разумного ИИ, бывшего в рабстве у биологических существ, но персонажа игры, капитана Шепарда, в случае жертвования им кварианцев, игра накажет потерей ресурсов перед битвой с галактическим противником, а персонажи из других фракций будут негативно настроены по отношению к решению Шепарда. Смерть напарницы-кварианки, Тали, считывается как нарративно, так и персонажами как утрата близкого товарища, когда как смерть гета-Легиона — как подавление бунта машин. Вот, что говорят пользователи тематического форума по игре о своих собственных этических предпочтениях по отношению к гетам:

«Выбираете чувство привязанности? Жертвуйте гетами

Выбираете лучшие боевые характеристики? Жертвуйте кварианцами».

Игра, как и игрок, рассматривает бунт рабов против господ на стороне последних, представляя гетов инструментально, не эмансипируя машину от человека, а наоборот, оправдывая машинный геноцид. Всякая претензия сценаристов игры выставить ИИ, обладающий сознанием, не как мишень в перекрестии прицела, а как товарищей и равноправных союзников спотыкается об общепринятое представление о роли ИИ в научной фантастике, то, как дроидам и роботам приходится вдесятеро сильнее доказывать свою разумность, своё право не быть уничтоженным.

III

Акселерационизм показывает, что технология может быть использована радикально иначе. Синтез и ускорение изменения ксеноотношений позволит впервые учесть то, что эмансипация человечества возможна лишь благодаря родству с нечеловеческим, росту автоматизации производства и переориентированию потенциала технологий, что в свою очередь даст возможность прогрессу в общественных отношениях. Необходимо осуществить спаривание с киборгами и машинами, конструировать новые интерфейсы со-действия, автоматизировать психическую, социальную, политическую жизнь посредством машинного интеллекта и биг дата, сняв с человека, как пишет киберфеминистка Йожи Столет, позицию творца, распределив соци-техно-природно-культурный глобальный интеллект, феминизировав тела, исследуя онтологию ошибки как потенциального пространства для возникновения машинного интеллекта. А осуществив впервые не эксплуатацию природы и машин, а сотрудничество с ними, возможно изменить посттрудовые отношения, выполнить настройку уже существующей в настоящем технологической сингулярности. Достаточно продвинутая технология, помещённая в соответствующие постгуманистические фреймы, станет условием создания качественно новой оптической методологии технологической акселерации и родства с нечеловеческими субъектами.

Эгалитарный ответ такой утопии сильных, технофобии — поcт-топия бывших бедных, которые своими собственными средствами, с учётом всех агентов, рушат эту темпоральную логику, и перманентная революция становится вне времени, постоянно расширяющейся и мутирующей нечеловеческой сингулярностью в виде «конца истории» человечества.

Михаил Федорченко

Библиография:

1. Симондон Ж. О способе существования технических объектов (фрагмент)//Транслит. 2011. № 9.

2. Mass Effect 3. BioWare, Straight Right. 2012

3. Srnicek, N., Williams, A. Inventing the Future: Postcapitalism and a World Without Work. L.: Verso Press. 2015

4. Braidotti, R. The Posthuman/Polity. 2013. 180 p.