Жан Лассег и Джузеппе Лонго, введение и оглавление к ‹Кошмару Прометея› и ‹Цифровой империи› (2023/2025)

Кошмар Прометея. Науки и их пределы. Введение

Джузеппе Лонго

Есть нить, которая проходит как через историю, так и через простраивание смысла в науке. Эта нить тянется с тех пор, как на Западе начали заниматься математикой, то есть с греческих времен, и проходит через все ее приложения — от современной биологии до искусственного интеллекта. Точки зрения и практики, которые структурируют эти две последние дисциплину и область, были глубоко отмечены, даже направлены, понятиями математического происхождения: информация, программа, вычисление… Однако любая эпистемология, в частности та, которую мы пытаемся развить здесь, также является историей: она должна наметить путь становления идеи, научной практики, найти ее корни в мировоззрении, понять простраивание смысла во времени, чтобы лучше понять новые формы этого «смысла мира», которые предлагает нам наука. Идея, которая ведет нас в этом исследовании, — это богатство в отношении к реальности, которое характеризует математическое изобретение, которое никогда не является только практикой вычисления или механическим выводом. Описывая самым простым образом возможный путь математического изобретения, мы постараемся предложить альтернативы лингвистическому повороту, который ознаменовал основы математики в XX веке: все было бы знаком, алфавитным, цифровым, манипулируемым в соответствии с заданными правилами как последовательностью знаков (программой). Таков великий современный миф: все в мире и в мышлении является «информацией», записью/кодированием аксиом, выводом, вычислением, все представляет собой последовательности чисел или знаков, которыми можно формально манипулировать, которые можно программировать, как мы говорим. Эта парадигма перешла из математики в начале XX века в первый искусственный интеллект (и второй, основанный на Deep Learning и Big Data, о чем мы еще поговорим, тоже не избавился от нее…) и в биологию, сосредоточенную на генетической программе и цифровой информации — на «алфавитном» письме, как провозгласил Франсуа Жакоб в 1965 году, которое, как предполагается, полностью хранится в ДНК. Наша цель — провести конструктивную критику последствий этого поворота в естественных и искусственных науках.

Анализ ограничений этого подхода в каждой из этих двух современных наук поможет лучше понять искажения, вызванные в другой. Следствия идеи о том, что «всё есть знак, который необходимо формально ухватить», что всё есть арифметическое вычисление, программа, алфавитное письмо, еще более обременительны, поскольку через две вышеупомянутые дисциплины они оказывают влияние на познание и жизнь человека, а также на экосистему. Если автор этой книги, будучи математиком, долгое время вносил вклад в прекрасные науки об обработке информации, то сегодня можно наблюдать, как они становятся средством идеологии контроля над природой и познанием, далекой от их первоначальной функции, столь богатой смыслом и историей. Кроме того, следует напомнить, что теория программ и вычислений, т.е. строгие понятия вычислимости и алгоритма, берут свое начало в анализе пределов дедукции и формального вычисления, т.е. в работах 1930-х годов по основаниям математики. Сегодня безграничная высокомерность принципа «все есть информация, все есть программа» — очевидно закодированная, а стало быть декодируемая, — обещает (пере)программирование эволюции в книге лауреата Нобелевской премии по биологии 2020 года, о которой мы поговорим. Точно так же мы доходим до фантазма о замене человека машиной, которая управляется [gouvernée], даже в самом новом и гораздо более эффективном ИИ, методами оптимизации, полученными из физико-математических техник, которые остаются вполне уместными и незаменимыми понимания инертной материи, но ограниченные при анализе живой материи и человеческого познания. Контроль над биологией посредством генетического программирования фактически продлевается в желании — но также и в растущей практике — оптимизированного контроля над мышлением и действием человека.

Чувство пределов и границ, как мы уже говорили, является, напротив, источником замечательных математических изобретений, лежащих в основании этих методов и машин, начиная с «отрицательного результата» Пуанкаре (1892) — так он называет свое доказательство ограниченности предсказуемости детерминированных систем, проекта Лапласа, о котором мы будем говорить подробно. И мы дойдем до великих теорем ограничения, которые позволили и заставили нас точно определить понятие алгоритма и его языки, чтобы доказать, что не существует алгоритма, позволяющего разрешить то или вычислить это, — что дало нам определения, инструменты и языки современного вычисления. В некоторых случаях мы будем неоднократно возвращаться к этим важным результатам ограничения, каждый раз углубляясь в них или вновь подчеркивая важные моменты, в изложении, порой напоминающем «спираль», которая должна обеспечить доступ к некоторым сложным темам с нескольких точек зрения. Исходя из этих ограничений мы намечаем работу и исследовательский проект, опирающийся также на взгляд на основания математики, который направлен на поиск альтернатив новому альянсу между вычислительными формализмами и управлением человеком и природой с помощью алгоритмов и этих якобы объективных методов «оптимальности».

Некоторые статьи — в общей сложности семь, написанные на французском и английском языках в течение последнего десятилетия — в значительной степени вдохновили эту книгу. Первые пять глав представляют собой глубокую переработку четырех текстов, написанных в течение этого периода. Андреа Каваццини, тщательно и внимательно переработав оригинальные, более технические тексты, сделал возможным расширение круга вопросов и тем, чтобы они стали доступными для осведомленной аудитории. Гл. 6 и 7, а также «письмо Алану Тьюрингу» в приложении, основаны непосредственно на их переводах с англ. языка или на оригинальной версии на фр. языке (гл. 7), которые, кстати, были значительно переработаны и обновлены.

Диалог без границ: наука, история и философия • Линия без толщины и деньги
• Прямолинейное равномерное движение и изобретение математического пространства
• От человеческого конструирования к онтологии абсолютов
• Интермеццо: существование и истина
• Пространство, закон и экономика
Пределы сциентизма: наука, общество и идеологии • Метафоры живого и направления исследований
• Сложность и алеаторность в свете живого
• Знание, споры и полемика: когда институциональные рамки сдерживают науку
• Экономика и технологии в современном мире
• Пределы больших данных
• Выводы: пределы и возможности познания
Мифы и пределы цифрового: Big Data и ИИ • О научном методе: достаточно ли данных?
• Случайность ложных корреляций в больших базах данных
• Память прегнантных линий
• Создание инвариантов с помощью слоев формальных нейронов и вопрос о смысле
• Распознавание кошки по имитации кошки
• Эффект объявления и смысл действия
• Смысл работы
Биология генетической программы • Перевернутая теология
• Серьезные следствия слабых гипотез
• От триумфа к краху
• Рабочие гипотезы в биологии
Мышление за пределами своих границ: неполнота и изобретение • Введение
• От Лапласа до Пуанкаре
• От геометрии к логике
• От Гильберта до Гёделя
• Арифметика, абсолют
• Пуанкаре vs. Гёдель
• Тьюринг: от формальных систем к непрерывной динамике
• Эйнштейн и тезис о неполноте квантовой механики
• Математическая неполнота формальных теорий и генеалогия понятий
• Информация и кодирование в клетке
Интерпретация и ограничения информации: наука как человеческое конструирование смысла • Введение
• Происхождение смысла
• Современное происхождение разработки информации как формального вывода: продуктивность и ограничения «бессмыслицы» в дискуссии об основаниях математики
• Повторное завоевание смысла
• Роль «интерпретации» в программировании как обработке информации
• Какой информацией оперирует волшебный демон?
◦ Биология молекул, далеко за пределами порога биологического смысла ◦ От геодезических линий к формальным правилам и колебаниям
Сложное взаимодействие между смыслом и строгостью в математике 1. Разрушенная гармония чисел
2. Математика абстрактна, символична, строга… по ту сторону аксиом, за аксиомами
3. Смысл в диаграмме, пример
4. Дискретность, строгость, определенность
5. Сглаживание мозга и организма до конечных последовательностей знаков vs. придание им смысла

Приложение
Письмо Алану Тьюрингу

Цифровая империя. От алфавита к ИИ. Введение

Жан Лассег и Джузеппе Лонго

Теперь, поскольку все человеческие знания могут быть выражены буквами алфавита, и поскольку можно сказать, что тот, кто в совершенстве понимает употребление алфавита, знает всё, отсюда следует, что можно вычислить число истин, на которые способны люди, и определить размер произведения, которое содержало бы все возможные человеческие знания; и в котором было бы всё, что когда-либо могло быть познано, написано или изобретено; и многое другое.
Лейбниц, «Неопубликованные опускулы и фрагменты» (после 1690)

Идеал логиков (и некоторых математиков) — исключить означивание в пользу одной лишь истинности — представляет собой философский абсурд.
Рене Том, «Относительность истины, релятивизм умопостигаемого» (1991)

…ни одна достаточно глубокая теория языковой деятельности не может обойтись без геометрического континуума.
Рене Том, «Математические модели морфогенеза» (1980)

«Цифровой» — проникшее всюду слово, значение которого трудно точно определить, как и других терминов из той же области, таких как «искусственный интеллект» или «кибернетика», чей смысл менялся на протяжении уже долгой истории. Термин «цифровой» стал употребляться относительно недавно, но не менее смутным образом, и наша цель — прояснить его значение, предложив интерпретационную рамку, опирающуюся на три понятия: письмо, вычисление и машина. Именно взаимосвязь между ними тремя составляет теоретическую основу данной книги. Наш подход предполагает проведение как эпистемологического анализа математических реальностей, лежащих в основе «цифрового», так и критического анализа в смысле изучения условий возможности этого основания. Остановимся на этих двух моментах.

Эпистемология, разработанная на следующих страницах, не несет технического характера. Читатель не найдет в ней уравнений, которые можно было бы считать научным результатом, но она тем не менее требует глубокого изучения теоретических областей, начиная от естественных наук и заканчивая социальными науками, включая математику и логику: такова цена, которую нужно заплатить, чтобы отразить повсеместное присутствие понятия «цифровой» в наши дни и принять единую, но дифференцированную точку зрения на его проявления. Эпистемологический взгляд, представленный здесь, — результат долгой работы, которая для одного из авторов этой книги также включала результаты математического характера и объединила обоих авторов в долгосрочном сотрудничестве с научной и философской работой британского математика Алана Тьюринга. Именно это сотрудничество стало источником их совместных размышлений о скрытых аспектах современных цифровых преобразований и желании их прояснить.

Что касается критического аспекта, то он заключается не в «критике» последствий цифровизации наших практик и знаний, а в принятии критической точки зрения в том смысле, который этот термин приобрел в кантианской традиции. Его задача — вычленить условия возможности, позволяющие объяснить явления, которые без этой точки зрения остались бы недоступны или непроницаемы. Однако читатель не найдет здесь строгого повторения кантианской эпистемологической точки зрения, поскольку условия возможности, которые мы пытаемся выявить, по сути своей исторические и социальные, а не только связаны со способностями абстрактного индивидуального субъекта. Изменение перспективы объясняется одним из самых фундаментальных тезисов этой книги: цифровое — это прежде всего алфавитное письмо. Однако эта цифровая письменность не зависит от пространства-времени, которое мы рассматриваем как фундаментальный источник умопостижимости опыта. Таким образом, цифровая письменность глубоко изменяет эту умопостижимость и, по нашему мнению, делает необходимым исследование, которое мы собираемся провести.

В нашем исследовании выделяются четыре такта: после критики идеологии, связанной с проектом искусственного интеллекта (гл. 1), сначала следует анализ понятия письма в его связи с пространством (гл. 2 и 3), затем исследование понятия «машина» от научной революции эпохи Возрождения до нейронных сетей (гл. 4 и 5) и, наконец, анализ способов полной интеграции цифровых технологий в мир человека (гл. 6 и 7). Критическая эпистемология, которая направляет наши размышления, пытается, стало быть, удержать равновесие между строго теоретической точкой зрения и определенными социально-историческими условиями, что позволяет прояснить происхождение текущей цифровой ситуации.

Чтобы правильно понять это движение в четыре такта, мы должны сначала исходить из одного основного факта. Цифровое письмо, о котором пойдет речь, опирающееся на вездесущую компьютерную парадигму, направлено не столько на написание [écriture], сколько на переписывание [réécriture]. Последовательности (алфавитных) символов, образующие программы, изменяют последовательности символов, которые, в свою очередь, могут быть программами. Короче говоря, на основе письменных инструкций компьютер переписывает текст, закодированный в виде последовательностей 0 и 1, и эти тексты, в свою очередь, могут быть программами. Не вдаваясь в подробности, но чтобы прояснить этот момент для читателя, напомним, что компиляторы и операционные системы не имеют другой функции: они переписывают текст, пока не достигнут кодирования любой цепочки символов в последовательности 0 и 1 в динамической памяти компьютера, месте вычислений. Эти цифровые базы данных, состоящие из 0 и 1, лежат в основе всей современной цифровой науки, включая технологии глубокого обучения (deep learning), которые радикально изменили современный ИИ, по крайней мере с конца 1980-х гг. Эти технологии теперь используют богатый набор математических методов, также основанных на инструментах математического континуума, часто унаследованных от математической физики (дифференциальные уравнения, вейвлеты, перенормировка… которые мы не будем подробно описывать).

Однако в конечном итоге все должно быть сведено и закодировано, по крайней мере после компиляции и управления операционными системами, в последовательности 0 и 1. Эта практика кодирования с помощью целых чисел (последовательностей 0 и 1) или букв находится в центре цифровых технологий и их технонаучной гегемонии сегодня. Отсюда делается ошибочный вывод, будто бы «всё есть код» — от человеческого интеллекта, который, как предполагается, закодирован в компьютере, до «генетического кода» молекулярной биологии; будто бы «всё есть вычисление» — от динамики мышления до эмбриогенеза, рассматриваемого как развертывание «программы, закодированной в ДНК». Проведя историческое и эпистемологическое исследование, мы покажем, что алфавитное письмо и цифровое вычисление глубоко взаимосвязаны, но вместе с тем нет никаких оснований делать из этого онтологию. Необходимо, скорее, обратиться к гуманитарным и социальным наукам, а также к истории вычислений, чтобы понять масштаб изменений, которые нас затрагивают. Ведь когда речь идет о письме и вычислениях, речь идет как о социальных науках, так и о точных науках, и становится необходимым прибегнуть ко всем их методам, чтобы прояснить природу и масштаб письма и вычислений. С этой точки зрения понятие письма позволяет преодолеть дисциплинарные разграничения между точными и естественными науками, с одной стороны, и гуманитарными и общественными науками, с другой. Таким образом, «цифровое» основано на новых знаниях в области алфавита, которые выступают предметом этой книги, как и в математике, как и в знаниях о живых организмах, а также в общении людей в социуме. Однако для того, чтобы знания стали наукой, необходимо осознать их ограничения: именно отсутствие осознания этих ограничений сегодня создает проблему в случае цифрового и питает то, что нами было названо «идеологией цифрового».

Данная критика идеологии цифрового не сводится к тому, чтобы занимать некую наивную позицию в отношении инструментов цифровизации, будь то «за» или «против». Написание настоящей книги двумя исследователями, которые часто работали удаленно, было бы невозможно без современных цифровых решений, которые позволяют делиться текстом на одном сервере и работать над ним вместе в режиме реального времени, продолжая общаться и видеть друг друга через экраны. Разумеется, такая ситуация не заменяет совместную работу в одном помещении, которая столь необходима для зарождения и созревания идей, и мы выступаем за то, чтобы всегда была возможность вернуться к ней. Однако было бы несправедливо не признать огромное подспорье, которое эти новые инструменты дают для написания и редактирования текстов, не говоря уже о необычайных возможностях, которые открывает онлайн-доступ к целым библиотекам текстов и изображений, и о несравненной помощи, которую они оказывают в повседневной жизни, а также в таких сложных областях, как медицинская диагностика, астрономические исследования или прогнозирование климата. Эти возможности, a contrario, способствовали в интеллектуальной сфере промышленному росту производительности в виде крайне особых, частичных результатов, которые становятся все более обособленными и изолированными, поскольку цифровые технологии позволяют работать где угодно и когда угодно, усиливая глубокое чувство потери ориентиров и ускорения социальной жизни. Настоящая книга преследует еще одну цель: она призвана дать возможность не торопиться и поразмышлять теоретически, как предлагает греческое понятие σχολή — свободное время, досуг, необходимый для учебы. Мы подчеркиваем, что наша книга, а в более общем плане — наша работа и большая часть наших знаний — не были бы возможны до наступления нашей цифровой эры, к которой тем не менее следует подходить критически: забыть об этом было бы настоящей методологической ошибкой.

Мы также должны сделать замечание социологического и антропологического характера относительно понятия машины и механизации. Не следует забывать о существовании абсолютно массового явления в истории человеческого общества с неолита — а именно рабства. Мы не сможем понять большую часть обществ прошлого и их внутренние преобразования с неолита, если будем игнорировать это социальное явление, которое сегодня стало для нас столь чуждым, несмотря на его по-прежнему болезненные последствия для цивилизации. Однако это социальное явление имеет прямое отношение к теме, которая нас занимает: постепенная механизация человеческой деятельности и преобразование понятия труда способствовали тому, что насильственная эксплуатация чужой рабочей силы стала незаконной, хотя, к сожалению, она все еще массово продолжается, поскольку современные машины также производят неквалифицированную и эксплуатируемую, а порой и невидимую рабочую силу. Однако, независимо от того, выступаем ли мы «за» или «против» механизации в ее последней фазе, т.е. цифровизации, мы должны помнить о том, что механизация заменила, а именно: широко распространенное рабство по всей планете в различных формах, по крайней мере с момента зарождения неолитических обществ. Это необходимо учитывать, чтобы попытаться сохранить сбалансированное суждение о глубоких социальных преобразованиях, которые затрагивают нас через механизацию наших действий и знаний.

Наконец, мы также должны постараться не забывать о своем собственном общественно-историческом положении: как философы и математики, всегда работавшие в развитых западных странах, мы, конечно же, особенно чувствительны к жестокому наступлению, которое некоторые глобальные цифровые инструменты оказывают на верховенство закона. Но мы также знаем, что верховенство закона — это привилегия, которая не так уж широко распространена в мире, и что, несомненно, существует требование эмансипации, чей зов необходимо слышать, когда в обществах, менее привилегированных с точки зрения права из-за острых социальных конфликтов, эндемической коррупции или недостатка образовательных ресурсов, цифровые инструменты, о которых мы будем говорить, пользуются большой популярностью для отправления правосудия, развития экономики или образования. Точно так же эти цифровые инструменты делают знания человечества доступными для всего человечества, даже если они также вводят искажения в процесс формирования и распространения знаний, в частности знаний научных. Это еще одно двоякое предупреждение, которое мы адресуем как читателям, так и самим себе, и которое важно иметь в виду, прежде чем перейти к сути вопроса.

Два стиля математики: Пифагор и Евклид
Великий возрат пифагорейства в наши дни: «цифровое»
Проблема измерения
На что опирается идеология цифрового?
Алгоритмизация природы
Случай алгоритмизации биологии
Случай алгоритмизации права

Гл. 2. Что подразумевается под «греческой письменностью»?

Автоматизация в графических системах
◦ Греческий алфавит ◦ Греческая письменность: другие семиотические системы ◦ Графосемантические конфигурации догреческих алфавитных систем ◦ Графическая полнота греческой фонологии ◦ Корейский алфавит
Распространение греческой письменности
◦ Создание семиотических систем на основе принципа симметрии ◦ Понятие парадокса

Гл. 3. Кризис пространства

Пространство жеста и действия и его связь с «цифровизацией пространства»
Изобретение пространства: изобразительный перевод теологического понятия
Кризис пространства: от единственности ко множественности геометрий
Кодирование
Метаязык: язык для разговора о языке

Гл. 4. Механизмы

Машина движения, машина знаков, машина меток
◦ Машины движения ◦ Машины знаков ◦ Машины меток: переписывание
Механизм, против природы или внутри нее
◦ Техника как смекалка [видимо, μῆτις. — А.М.] в Греции ◦ Новая наука: теория — наблюдение — практика в эпоху Возрождения ◦ Наука и машины
Живые существа
◦ Построение машин и эмбриогенез ◦ Живое существо и программируемая машина ◦ «Физикалистский» редукционизм в биологии и набросок ответа

Гл. 5. Новый искусственный интеллект

Оптимальность в машине
Мозг и банка с вареньем
Эмерджентность vs. производство новизны
Гегемония физики и ее пределы
От физики к истории через экономику
Контроль лингвистического значения
Возврат к «всё есть исчисление»: пределы нового императивного пифагорейства

Гл. 6. Антидемократические тенденции цифровизации

От алфавита-машины к механизированному праву
От слуха к зрению
Опространствление и право
Оракул и дискретное восприятие мира
«Приватизация нации»?
Девитализация пространства и времени
◦ С семиотической точки зрения ◦ С экономической точки зрения ◦ С социальной точки зрения ◦ С психологической точки зрения

Гл. 7. Перепостроение (нового) человеческого мира с помощью цифровых технологий

Механизм и отчуждение
Сциентистское отчуждение или отсутствие чувства границ
Интерпретация и риск
Игра и отчуждение
◦ Игра в имитацию ◦ Сотрудничество через игру ◦ Контрибутивные игры ◦ Игры письма
Цифровые рас-пространствление и пере-опространствление в праве
◦ Цифровое в основе правового конфликта легальности ◦ Цифровое пере-опространствление
«Общее достояние» как пространства памяти и труда
◦ К более справедливому доступу к ресурсам и контенту и их совместному использованию

Пер. с фр. А. Морозова по изд.: Longo G. Le cauchemar de Prométhée. P.: PUF, 2023. PDF; Lassègue J., Longo G. L’empire numérique. De l’alphabet à l’IA. P.: PUF, 2025. P. 9–15, 365–368.