Социальная справедливость в эпоху ИИ. Часть 2
Продолжение дискуссии об ИИ и социальной справедливости в сообществе White Robed Monks of St. Benedict (Белых монахов в одеяниях св. Бенедикта). Часть вторая:
Вот перевод письма на русский язык:
Мои замечания также были отложены из-за двух прошедших недель практически беспрерывных курсов. А ситуация с искусственным интеллектом и образованием настолько невероятно сложна, что я даже не начинал говорить об этом здесь, но вот некоторые мысли, которые я набросал в поезде по пути домой на прошлой неделе:
Искусственный интеллект и Rerum Novarum
Краткие замечания к размышлению, распространённому среди «Белых монахов в одеяниях святого Бенедикта».
Условия, связанные с тем, что можно назвать «экономикой Кремниевой долины», создают резкие вызовы, которые придают Rerum Novarum новую актуальность.
Я с удовольствием написал бы об этом подробнее, но ограничусь двумя темами: чем является ИИ (и чем не является), и как он вписывается в экономическую жизнь трудящихся. Это всего лишь мнения, хотя я старался быть точным в вопросах фактов.
Во-первых, искусственный интеллект — это неудачно названное семейство технологий. Само название вызывает ассоциации с сознанием и высшим мышлением, но на деле, по крайней мере на данный момент, ИИ представляет собой набор классов статистических моделей, которые могут «предсказывать» либо следующее слово в последовательности, либо следующий пиксель в сетке пикселей. Таким образом, по расширению, они могут генерировать тексты и изображения (или последовательности изображений — видео, или объемы изображений — 3D). Любое впечатление «интеллекта» или глубокой личности этих программ, по крайней мере пока, — это артефакт нашей «теории разума», нашей эволюционно развитой склонности приписывать разум и намерения в общении с другими.
Эти статистические модели огромны, сложны, их обучение требует чрезвычайно дорогой инфраструктуры, колоссального количества энергии, а также предоставления массивов данных — зачастую собранных без признания или компенсации их первоначальным авторам.
Полученные модели обладают впечатляющими возможностями и могут выполнять множество полезных задач. Но, поскольку они основаны на мире текстовых паттернов, а не фактов, они могут совершать пугающие ошибки и не должны использоваться без критического подхода.
Что мне кажется особенно интересным в генеративном ИИ — это то, что он создаёт текстовые или визуальные последовательности, похожие на уже существовавшие. Таким образом, как творческий инструмент, он по сути консервативен — не в политическом, а в культурно-смысловом смысле: он предполагает, что будущее будет похоже на прошлое. В этом смысле он даже анти-креативен. Это само по себе не плохо, но по мере того как всё большая часть цифрового контента становится сгенерированной ИИ, возникает риск формирования интеллектуального, технического, эстетического и даже нравственного застоя.
Итак, перед нами — инструменты, создающие паттерны, похожие на прежние. Они полезны для навигации в потоках информации и генерации результатов, которые могут быть уместны в разных контекстах.
Как это взаимодействует с социальной и экономической реальностью и Rerum Novarum?
Rerum Novarum говорит о достоинстве труда. ИИ уже привёл к потере десятков тысяч рабочих мест (а точнее, был использован как оправдание для их ликвидации корпорациями) — и это только начало. Но поразительно: если эти рабочие места так легко заменяются машиной статистического плагиата, было ли в них вообще достоинство?
Rerum Novarum говорит о солидарности между социальными классами. Как это выглядит, если возможность обучать генеративные модели ИИ и определять их способности доступна только тем, кто контролирует невероятную концентрацию капитала? Можно утверждать, что в ИИ вложено больше денег, чем можно себе представить, и которые никогда не будут возмещены — ИИ становится не столько бизнесом, сколько формой классовой войны против собственных сотрудников разработчиков. Что происходит, когда с 1970-х годов рост производительности труда больше не приводит к росту благосостояния работников? История показывает, что такие уровни неравенства ещё никогда не заканчивались хорошо. И честно говоря, чтобы адекватно ответить на вызовы настоящего момента, нам потребуется вся наша богословская, техническая и эстетическая креативность.
(С тех пор, как я первоначально написал эти заметки, стало очевидно, как экономические олигархи могут использовать ИИ для распространения дезинформации — как видно на примере попыток Илона Маска использовать Grok AI для продвижения мифа о «белом геноциде».)
Rerum Novarum говорит о роли государства в защите прав работников. А мы находимся в запутанном мире демократий и того, как они себя финансируют. Мир, в котором всё меньше труда требуется для удовлетворения материальных нужд, должен быть также миром, в котором у всех есть материальная защищённость, даже если работы на всех не хватает. И всё же мы видим, как государства испытывают колоссальное налоговое давление. Например, сразу после Второй мировой войны, с разрушенной страной и огромными долгами, правительство Клемента Эттли смогло создать NHS (национальную систему здравоохранения) и расширить социальное обеспечение. А теперь, в мире, гораздо более продуктивном, с ВВП в разы выше, я вижу в Великобритании разрушенные дороги, замороженные инфраструктурные проекты и государство, изо всех сил пытающееся сохранить целостность и выполнять базовые функции. Почему? Потому что существующее (гораздо большее) богатство теперь сосредоточено вне досягаемости национальных налоговых систем. Это напряжение уже разрушает способность государств функционировать как целостные политические единицы — не говоря уже об их роли гарантов экономической справедливости. Чётко скажу: это не вина ИИ, но современный ИИ неотделим от той экономики, которая привела к этой ситуации.
Я даже не касаюсь темы образования
Хотя сам работаю в высшем образовании и активно вовлечён в дебаты об ИИ в академической сфере. Влияние генеративного ИИ на преподавание, обучение и научную работу слишком масштабное, чтобы обсуждать его здесь.
Но джинн уже выпущен из бутылки — и что нам с ним делать?
Деньги уже потрачены, дата-центры построены, углерод в основном уже выброшен (при обучении, хотя ИИ продолжает требовать невероятного количества энергии). У нас есть ИИ-инструменты. Они уже часть нашего мира. Что теперь?
Ответ, как с любым инструментом: использовать критически, но:
• Обращать особое внимание на цели, которым они служат.
• По возможности использовать модели, которые можно запускать локально, а не через облачные монополии.
• Создавать сообщества технологической взаимопомощи, чтобы снизить зависимость от токсичной экономики Big Tech.
• Применять ИИ не для замены, а для усиления человеческого труда.
• Использовать творчество и искусство как форму конструктивного сопротивления и поклонения Богу.
Это, конечно, не последнее слово, но, надеюсь, вклад в плодотворную дискуссию.