Харарі-2030: нова доба репресивної сублімації. Стаття С.Жижека
HARARI’S 2030s: A NEW AGE OF REPRESSIVE DESUBLIMATION
NOW FREE: Every big technological breakthrough opens up a path towards new barbarism.
У своїй короткій доповіді «До 2030 року світ стане невпізнаваним»¹ Юваль Ной Харарі викладає свою позицію щодо того, як стрімкий розвиток ШІ вплине на наше життя, настільки чітко й лаконічно, що сама доповідь стає об'єктом критичного аналізу. Він подає доволі детальне бачення нашого світу у 2030 році, яке характеризує як «невпізнаване» для тих із нас, хто ще вкорінений у традиційних уявленнях про людяність. Однак, щоб висловити свою думку максимально прямо: я вважаю, що реальність 2030 року виявиться невпізнаваною і для тих, хто підтримує бачення Харарі щодо 2030 року.
Теза Харарі, яку я поділяю, полягає в тому, що те, що відбувається сьогодні, — це те, чого більшість із нас повністю не усвідомлює: кінець людяності в тому вигляді, в якому ми її знали, починаючи приблизно 10 000 років тому, коли племена кам'яного віку почали використовувати мову. Зі стрімким піднесенням штучного інтелекту мова більше не є інструментом, який люди використовують для спілкування та взаємодії; вона набуває повної незалежності і починає функціонувати як власний агент, обрубуючи пуповину, що пов'язувала її з вразливими мавпами, яких звуть людьми. Тут я стикаюся з першою проблемою: чи є мова без суб'єкта(ів), мова, що діє як власний агент, узагалі мовою? Крім того, чи можна справді звести мову лише до двох функцій — інтелектуального розрахунку та вираження емоцій? Але цим я займався в інших своїх працях.
Харарі виокремлює три великі розриви, що позначають кінець людяності в тому вигляді, в якому ми її знали:
— По-перше, це величезний апарат ШІ: він містить знання, що набагато перевершують людську пам'ять і доступні миттєво. Ці знання включають і знання про окремих людей, які «мешкають» у ШІ. У цьому сенсі, як часто кажуть, ШІ знає нас краще, ніж ми знаємо себе. Крім того, ШІ не лише накопичує знання й виконує над ними когнітивні операції — міркування: він уже не просто інструмент, машина, що виконує накази і робить те, що їй сказано; він уже агент, готовий ухвалювати автономні рішення, рішення, на які його не програмували. Він не лише навчається і трансформує себе для виконання своїх завдань — він уже здатен перевизначати самі ці завдання.
Моя реакція тут подвійна. По-перше, звісно, ми не знаємо себе добре, бо маємо Несвідоме — тобто тому, що сама наша суб'єктивність передбачає, що ми самі собі невпізнавані. Що стосується рішень, людське рішення вільне саме в тому точному сенсі, що його найбільш базовим вимірюванням є те, що Фройд називав потягом до смерті: вибір нічого. В обох випадках питання лишається відкритим: наскільки ШІ здатен виявляти ці вимірювання — суб'єктивність, потяг до смерті, несвідоме?
— По-друге, ШІ, разом із технологічним застосуванням досягнень нейронаук, розмиває межу між реальністю і фікцією. Наше сприйняття зовнішньої реальності та взаємодія з нею завжди були опосередковані соціально-історичним символічним контекстом, тож те, що ми бачимо, — це «контрольована галюцинація» (Аніл Сет): наше сприйняття реальності не є прямим вікном у світ, а найкращим припущенням — внутрішньою симуляцією, яку активно генерує мозок і яку постійно стримує сенсорний вхід. Сьогодні «внутрішня симуляція» вже не є лише спонтанним процесом, регульованим нашим мозком і спільною ідеологією; вона все більше й більше породжується свідомо спланованою технологічною маніпуляцією.
Справа не лише в тому, що те, що ми бачимо зовні як реальність, є фальшивкою, як намальоване на великій стіні тло в кінематографічній сцені, — тобто немає потреби будувати справжні будинки чи саджати справжні дерева на задньому плані. Наш перцептивний апарат маніпулюється безпосередньо, тож те, що нам здається, буцімто ми бачимо там, зовні, насправді там немає — навіть як намальована фальшивка чи симульований звук: маніпулюють безпосередньо самими нашими нервами. Як більшості з нас відомо, не лише біль чи задоволення, а навіть оргазм можна вже викликати без будь-яких зорових уявлень у нашій свідомості — просто прямим стимулюванням нервів. Коли прямі втручання в наш мозок стануть звичною справою, з'явиться можливість впроваджувати в нього фальшиві спогади чи навіть травми, яких ми ніколи насправді не переживали.
Моя відповідь на це — наголосити на ключовому лаканівському розрізненні між Реальним і реальністю, яке жодним чином не збігається з розрізненням між реальністю-самою-по-собі та тим, як реальність нам являється, заражена фікціями й фантазіями.
Багато критиків нарікають, що лаканівське Реальне — вислизаюче поняття, яке коливається між протилежними значеннями: це порожнеча, навколо якої структурується символічна мережа; це випадковий залишок, пляма, крихта реального, що опирається символізації, — те, що Шеллінг називав der nie aufgehende Rest (той, що ніколи не розчиняється залишок); це чиста формальна мова, яка не тримає жодного сенсу, подібна до математичних формул; це жахлива Річ, яку ми не здатні інтегрувати у своє повсякденне уявлення про реальність — гігантський монстр, що живцем поїдає людей, мегашторм, що змітає будинки й людей у них, брутальні тортури, що розривають людей на шматки: випадки, коли спостерігач каже собі: «Цього не може бути насправді!»; це бар'єр, що забороняє нам рухатися далі, хоча за ним нічого немає; це базова фантазія, на пригніченні якої тримається існування суб'єкта, — фантазія, в якій суб'єкт ніколи не може впізнати себе.
Тут потрібно не будувати класифікацію Реального, розділяючи його на чотири чи п'ять підкатегорій, а вловити внутрішній рух самого поняття Реального. Один аспект Реального, доведений до крайності, перетворюється на цілком інший: образ жахливої Речі перетворюється на фантазію, що прикриває — точніше, заповнює — первинну Порожнечу; ця Порожнеча перетворюється на перешкоду чи заборону, що прикриває той факт, що за нею нічого не приховано. Тут повторюється та сама матриця: Реальне — це те, що існує до символізації, і те, що залишається після неї, залишок символізації. Реальне — це те, що поза символізацією, і перешкода, яка заважає нам досягти цього поза. Реальне — це порожня форма без змісту, і зміст, для якого немає місця у формі — згадаймо лаканівську формулу суб'єкта-об'єкта: $-a.
У цьому й полягає парадокс заборони інцесту: вона забороняє те, що саме по собі неможливе. Інцест з матір'ю заборонено, але справжня мета цієї заборони — створити ілюзію, ніби, порушивши її, ми досягли б повної, некастрованої jouissance (насолоди). Коротко кажучи, заборона маскує той факт, що забороняти нічого. То чому ж я витрачаю тут час на ці деталі? Тому що, знову ж таки, для такого заплутаного збігу протилежностей немислиме місце в ШІ.
Тож недостатньо просто нарікати, що зростання ШІ підриває розрізнення між фактами і фікціями, і водночас недостатньо просто оспівувати як нову свободу нашу здатність плавно рухатися між фактами і фікціями. Ми чітко бачимо катастрофу такої «свободи» в значній частині сьогоднішньої політики — Трамп, Путін, Ізраїль, — де формується новий дискурс, який навіть не намагається бути правдивим у традиційному сенсі. На онтичному рівні реальності нам слід наполягати на фактичній істині більше, ніж будь-коли; але слід усвідомлювати, що на більш глибокому онтологічному рівні розрізнення між правдою і фікцією стає розмитим.
— Нарешті, і не менш важливо: Святим Граалем усієї цієї тенденції є перспектива Neuralink — «підключеного» мозку: ШІ у поєднанні з нейрохірургією та технологіями, заснованими на досягненнях нейронаук, відкриває шлях до прямого зв'язку між потоком наших думок і цифровим агентом. Нам більше не потрібен екран, щоб взаємодіяти з ШІ: агент ШІ може безпосередньо читати те, що відбувається в нашій свідомості, і діяти відповідно.² Коли компанії презентують перші скромні імпланти, які дозволяють цифровій машині читати наші думки, вони майже завжди подають доброчинний приклад того, як такий імплант дає можливість повністю паралізованій людині повідомляти свої думки — вона думає, а машина ШІ їх озвучує — або діяти без руху: агент ШІ читає її думки й рухає її крісло, вмикає телевізор і так далі.
Про що згадують рідше — це те, що спілкування відбувається й у зворотному напрямку: наші думки контролюються агентом ШІ і, звісно, іншою людиною, яка контролює цей агент ШІ. Тут відкривається перспектива повної прозорості внутрішнього потоку моїх думок для зовнішньої машини ШІ — і для тих, хто цю машину контролює.
Хоча Харарі добре відомий своїми постійними попередженнями про те, що ера людини минула, тут він виявляється надто оптимістичним, малюючи картину близького майбутнього — 2030 року, — в якій люди зможуть вступати в емоційні стосунки як зі справжніми, так і з цифровими особами. Це вже відбувається, коли люди годинами розмовляють з ChatGPT. Але уявіть собі значно розвиненішу систему, в якій я надягаю цифрові окуляри і веду розмову зі своїм покійним батьком, чия віртуальна особа реконструйована на основі моїх власних та чужих спогадів та інших видів матеріальних слідів — записів тощо. Але хто контролює цю гру? А що з контролем зсередини — з думками й фальшивими спогадами, впровадженими в мою свідомість без мого знання? Уявіть, що в мою свідомість впроваджено спогад про те, як мене зґвалтував власний батько, і я переживаю цей спогад як справжній. Що якщо з'явиться новий клас панів, здатних читати наші думки й втручатися в них, але самі не відкриті для Neuralink? Що якщо виключеними опиняться не просто марґіналізовані меншовартісні, а елітна група панів, які контролюють і маніпулюють мешканцями сингулярності?
Що стосується Neuralink, Харарі уявляє, що людина зможе вільно обирати, до якого колективного розуму приєднатися — науковців? поетів? Справді? Чи виживе моя індивідуальність після занурення в те, що зветься «сингулярністю»? Оскільки імплант, що регулює мій контакт із Neuralink, — це механічний прилад, чи не очевидно, що контроль здійснює той, хто цей прилад підключає чи від'єднує? Я не наївний лівий, який вважає, що ШІ — нейтральна машина, чиї соціальні наслідки залежать від соціальних обставин, у яких вона застосовується: у самій формальній структурі ШІ закладена тенденція до технологічного контролю й панування. Саме тому важко уявити щасливу, звільнену спільноту людських індивідів, що мешкають разом у сингулярності: у сингулярності немає ні секс, ні жартів, ні спілкування, у якому інший залишається незбагненним.
Висновок, що напрошується сам собою: кожен великий технологічний прорив відкриває шлях до нового варварства; його псевдозвільнювальний ефект зрештою обертається тим, що Герберт Маркузе назвав «репресивною десублімацією» — терміном, який він увів у праці «Одновимірна людина» 1964 року.³ Можна стверджувати, що першим у цьому напрямку рухався Теодор Адорно у своєму аналізі «Весни священної» Стравінського («Стравінський і реакція»), другій частині його «Філософії нової музики» (1949).⁴ Адорно проникливо зауважив, як модернізм Стравінського — його музичне наслідування ритму брутального індустріального виробництва — бере за свій зміст старі російські варварські й насильницькі жертовні міфи.
За Маркузе, «репресія» у пізньому капіталізмі діє не через контроль і заборону, а через дозвіл і вираження: усі задоволення дозволені — у товарній формі, — що веде до контрольованого вираження всіх бажань і потреб. Іншими словами, сьогодні репресія діє через десублімацію бажання, за якої жодні бажання не витісняються в підпілля: порнографія, секс-робота, наркокультура, БДСМ, культура «фурі», гей-культура, розкішне життя, трансгендерна культура тощо більше не сприймаються суспільством як негативний чи шкідливий спосіб життя. Їхнє прагнення тепер санкціоноване й оспівується: належність до цих форм життя вже не є підривною дією чи способом життя — вона тепер відтворює капіталізм через форму вартості.⁵
Сьогоднішнє бурхливе зростання агентів ШІ підняло репресивну десублімацію на новий, доти нечуваний рівень, у всіх її вимірах: від постправдивого універсуму до розмивання межі між власне публічним і приватним простором, не кажучи вже про цифровий контроль над тим, що ми робимо і думаємо. Медіа ШІ також відіграють ключову роль у тому, як брутальність і безсоромна непристойність вторглися в публічний політичний дискурс за останнє десятиліття. Не лише у словах, а й у діях — публічні заяви про те, як тортурують в'язнів, — США та Ізраїль тепер практикують репресивну десублімацію. Трамп і Нетаньягу, не кажучи вже про Гегсета і Бен-Ґвіра, часто публічно висловлюються так, як донедавна можна було уявити лише в приватних розмовах чи приватному листуванні електронною поштою. Їхня мова буквально є мовою репресивної десублімації: вона безумовно десублімована — брутально відкрита, без жодних обмежень, що оберігають гідність, — і водночас репресивна, оскільки провіщає не менш брутальне поводження з тими, кого сприймають як ворогів, включно зі знищенням цілої цивілізації.
Тут ми маємо справу не просто з ефектом ШІ, а з дуже конкретним набором соціальних обставин, у яких ШІ функціонує. Ми досі шукаємо належну назву для цього нового набору обставин: цифровий неофеодалізм, ліберальний фашизм, нова форма бонапартизму. Ми добре усвідомлюємо, що ці назви обертаються навколо феномену, який безумовно реальний і чию вагу ми всі відчуваємо. Функціонування ШІ неможливо відірвати від неофеодальної класової боротьби, найкраще символізованої зловісним квартетом Маск–Тіль–Безос–Цукерберг.