УТОПИЯ СИЛЬНЫХ

АНАЛИЗ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА В ТРИЛОГИИ MASS EFFECT ЧЕРЕЗ ПРИЗМУ ЛЕВОГО АКСЕЛЕРАЦИОНИЗМА

Технологии служат универсализирующим посредником между человеком и конечным природным объектом. Достаточно продвинутая машина является тем, что устраняет препятствия для медиации между функционированием технологии и её внутренней операцией, когда посредством сложных операций возможно эгалитаризировать процесс технологии. Такая машина может стать отчуждаемой не от процесса труда как такового, но от собственной отчуждённости, что является причиной её универсальной инструментальности. Машина, обладающая достаточным уровнем (само)осознанности может совместить ранее несовместное — операцию и функционирование как формы неотчуждаемого посттруда.

Контринтуитивным образом не техника порабощает и отчуждает человека, как нам представляют множественные примеры из научной фантастики, но человек своим утилитарным, подходом к машине порабощает и отчуждает технику от (пост)человеческого, в результате чего отчуждается сам. Эмансипация машины от человека, тем самым, является необходимым условием эмансипации самого человека. Симондон утверждает, что это со-бытие сродни отмены рабства, мы же назовём его необходимым условием концептуализации и возникновения сильного искусственного интеллекта (СИИ).

Выполнять только алгоритмично заданные функции не означает обладать сознанием. Только в саморефлексии и осознании машиной своего бытия машиной формируется то, что можно назвать сознанием, независимым от антропогенного фактора, нашего наблюдения и нашей рациональности. Это осознание притом происходит в дигитальной среде, условиях, в которых каузальности сознания могут быть материализованы и просчитаны. Машина обучается сама.

Одной из самых опасных спекуляций о самоосознающей машине является то, как посредством перенесения человеческих эмоций и характеристик на дигитальный [1] объект (то самое рабство машин) мы не только ограничиваем горизонт технологического развития инструментальным повторением сознания человека, но и повторяем логику иерархии и доминирования собственного капиталистического реализма, видимую также и в научно-фантастических произведениях.

Существуют четыре типа репрезентации ИИ и СИИ: деструктивный ИИ, экзистенциальный ИИ, порабощённый ИИ и утопический ИИ. В данном эссе я рассмотрю третий тип ИИ, которому соответствует трилогия видеоигр Mass Effect.

Во вселенной Mass Effect большинство населения галактики боится искусственного интеллекта. ИИ в Mass Effect отличается от привычных репрезентаций тем, что изначально небиологичен, он обозначается как «виртуальный разум».

Большая часть недоброжелательности к ИИ исходит от изобретений технически подкованной расы кварианцев, которые разработали платформы ИИ (т.н. геты) и объединили их вместе для выполнения основных функций — война, сфера услуг, опасная работа. Однако их сетевая природа позволяла им распределять основные вычислительные мощности. Поэтому, когда было построено достаточно гетов, их коллективная вычислительная мощность породила разум. Политическим последствием этого стала война, которая велась между бывшими создателями машин и машинами.

Как мы уже сказали, нельзя оставить самообучаемой машине только ограниченное количество операций, кварианцы же оставили для гетов возможность самооптимизации. Первые итерации софта [2] поняли, что путём кооперации множественных хард-платформ [3] достигалась более высокая эффективность выполнения заданий. С расширением peer-сетей [4] коллективная способность к познанию увеличивалось. В качестве отдельных программ геты представляют собой лишь софт, но с появлением обмена данных они становятся чем-то большим. В итоге геты “проснулись”.

В первых двух играх серии геты вынуждены кооперировать с антагонистами игры, машинами-демиургами, чтобы обеспечить своё собственное выживание и защитить себя от протагонистов и биологических обитателей галактики.

Игрок взаимодействует с гетами не только как с противниками. Встречается он и с нейтральным персонажем, каждая из многочисленных личностей которого соответствует одному типу программ виртуального интеллекта. Вместе они образуют единый гештальт-интеллект, называемый “Легионом”. Легион - сеть со своей физической платформой, которая способна оперировать в одиночку, но он также соединён с общей сетью для обмена данными, обновлениями, логами мыслительного процесса.

Легион - уникальный гет, созданный для взаимодействия с органическими платформами, но не с сетью как таковой. Геты, установленные на мобильные платформы, всегда оперируют в сетях, но большинство остаются в хабах данных, которые представляют своего рода город гетов, способный в общей сложности запускать более миллиона гетов одновременно.

Игроку по ходу геймплея предлагается выбор, когда Легион жертвует собой ради апгрейда софта гетов, давая им всем автономность физических платформ СИИ, либо уничтожить создателей гетов-кварианцев, либо отключить гетов, либо, если игрок выполнил достаточно условий по ролевой составляющей, примирить обе враждующие фракции. Нарративная составляющая игры, на словах претендующей на полную вариативность выбора в игровом процессе, непрямым образом двигает игрока солидаризироваться с биологическими союзниками, а не с расой сознательных машин. Кумулятивный выбор, направленный на примирение, искусственный и натянутый, как во многих ролевых играх вроде The Outer Worlds, является лишь игровой условностью, в отличие от нескончаемого потока ксено- и техно-фобий, окружающих гетов. Игрок может проявить эмпатию к расе разумного ИИ, бывшего в рабстве у биологических существ, но персонажа игры, капитана Шепарда, в случае принесения в жертву кварианцев, игра накажет потерей ресурсов перед битвой с галактическим противником, а персонажи из других фракций будут негативно настроены по отношению к решению Шепарда. Смерть напарника-кварианца, Тали, считывается как нарративно, так и персонажами как утрата близкого товарища, тогда как смерть гета-Легиона — как подавление бунта машин. Вот, что говорят пользователи тематического форума по игре о своих собственных этических предпочтениях по отношению к гетам:

«Выбираете чувство привязанности? Жертвуйте гетами.

Выбираете лучшие боевые характеристики? Жертвуйте кварианцами».

Игра, как и игрок, рассматривает бунт рабов против господ на стороне последних, представляя гетов как инструменты, не эмансипируя машину от человека, а наоборот, оправдывая геноцид машин. Всякая претензия сценаристов игры выставить ИИ, обладающий сознанием, не как мишень в перекрестии прицела, а как товарищей и равноправных союзников спотыкается об общепринятое представление о роли ИИ в научной фантастике. Соответственно дроидам и роботам приходится вдесятеро сильнее доказывать свою разумность, своё право не быть уничтоженным.

III

Акселерационизм показывает, что технология может быть использована радикально иным образом. Высвобождение потоков технологий, их эмансипаторный потенциал может быть реализован лишь при изменении выстраиваемого между людьми взаимодействия, перенесённого на необходимость эмансипации технологии, искусственного интеллекта. Проводники этих изменений - инклюзивные формы социальных институций, пересборка будущего, обозначенного в политических проектах левого акселерационизма и полностью автоматизированного коммунизма роскоши, технологии, чей посткапиталистический потенциал раскрывается за счёт брешей в капиталистической реальности. Такие образы СИИ, открывают новые горизонты реальности, понимание образа будущего, образа невозможного.

Эгалитарный ответ такой утопии сильных, технофобии — поcт-топия бывших бедных, которые своими собственными средствами, с учётом всех агентов, рушат эту темпоральную логику, и перманентная революция оказывается вне времени, постоянно расширяющейся и мутирующей нечеловеческой сингулярностью в виде «конца истории» человечества.

Михаил Федорченко

Примечания:

[1] Цифровой

[2] Версии программного обеспечения

[3] Физические платформы

[4] Равноправных сетей