Камера обскура. Искусственный интеллект и ментальная трансляция. От Бахтина и Лотмана к Дейкстре и Томпсону 

/ Европейский центр программирования им. Леонарда Эйлера, 2023-2024.
/ Руслан Богатырев, 2023-2024.

— 
Искусственный интеллект, история и лингвистика... Казалось бы, какая здесь может быть связь? — Прямая и очень глубокая...

История — одна из самых важных наук. Именно она во многом формирует и преобразует основу нашего мировоззрения. Ту самую ментальную линзу, сквозь которую человек смотрит на факты, события, явления. На их причинно-следственную связь. На их значимость и последствия.

История — это политика, опрокинутая в прошлое… Так в 1928 г. её метко охарактеризовал Михаил Николаевич Покровский (1868-1932), один из двух выдающихся советских историков-академиков, похороненных в Некрополе у Кремлёвской стены. В главном Пантеоне страны рядом с Горьким, Крупской, Жуковым, Рокоссовским, Курчатовым, Королёвым, Гагариным… 

Да, история — одна из самых политизированных, субъективных и недостоверных наук. В чём её априорная уязвимость? Историческая наука подразумевает ментальную реставрацию, реконструкцию причинно-следственных связей фактов, событий и явлений, а также самой мотивации в этом персон, организаций, стран.

С чем работают историки? С источниками. Которые отражают и представляют факты, события, документы… Источники и есть исходные данные. Их подразделяют на письменные, вещественные, лингвистические, этнографические, устные, кино-фото-аудио. Источники требуется проверять на достоверность. Этим во многом занимается источниковедение (анализ и синтез источников).

Проекция реальности... Камера-обскура...

Предположим, у нас есть тщательно проверенный письменный источник (документ). Стерильный по достоверности. Предположим, что он не подвергался изначально намеренному искажению реальности и в точности отражал ситуацию. Хотя это мы доказать вряд ли в силах. Разве только опровергнуть.

К сожалению, чаще всего мы не владеем полнотой корпуса документов. И речь даже не о Древней Руси, по которой сохранившиеся документы наперечёт. А о событиях совсем уж недавнего прошлого. Был ли после данного документа отменяющий/изменяющий документ? Не утерян, не изъят, не уничтожен ли? Какие ещё значимые для анализа документы засекречены и не открыты для доступа профессионалам? Всё это, увы, неизбежные обстоятельства, расплывчатость и токсичность среды, в которой вынужден работать профессиональный историк. Авгиевы конюшни минувшего…

Но главное даже не это. Историки обязаны давать свою интерпретацию исходных данных. Свою. Субъективную. Они выступают в роли программы-транслятора и обрабатывают данные (загрязнённые и стерильные), формируя свою собственную трактовку. 

Эта интерпретация зависит от образования, опыта, компетенции историка в данном вопросе. Его предшествующих публикаций (кому хочется признавать свои ошибки, сделанные публично). Его личных симпатий и антипатий, его предпочтений, его следования традициям той или иной научной школы (с её правилами, достижениями и заблуждениями). Его веры и даже классовых позиций. Наконец, его скрытой мотивации (почему именно об этом, именно так и именно сейчас). Это просто неизбежно.

Из вышесказанного следует, что любой историк домысливает. На свой лад. Любой. Иными словами, по большому счёту он является летописцем, мифотворцем, сказочником. Даже если наивно полагает, что абсолютно объективен, безупречен и беспристрастен.

—

Историк, как это ни странно, — интересный аналог, хорошая модель работы искусственного интеллекта (ИИ). И не только генеративного ИИ.

В чём коренятся главные изъяны ИИ?

Три хронические проблемы ИИ: (1) недостоверность, (2) отсутствие контроля полноты информации, (3) непрозрачность принятия решений.

• Базис. Вы не можете знать, кто, когда, как и на каких документах и эталонах обучал данную ИИ-систему (данную её версию).
• Приоритеты. Вы не можете знать систему заложенных в ИИ приоритетов (параметров, метрик), по какой методике и кто эту систему приоритетов выстраивал.
• Полнота. Вы не можете проконтролировать полноту данных и документов.
• Принятие решений. Вы не можете получить полную трассировку принятия решения, чтобы верифицировать корректность работы в данной конкретной ситуации.
• Владение. Этот чёрный ящик вне вашего контроля и практически любого внешнего контроля. Им владеет лишь тот, кто его создал.

Бездумное и бесконтрольное внедрение ИИ и подобных программных систем в госструктурах, затрагивающих права граждан, — это скрытое делегирование ответственности. В том числе и правовой. Это, увы, вольное или невольное потакание коррупционным схемам и атмосфере безнаказанности. Когда надзорные органы, прокуратура, судебные органы беспомощно разводят руками в условиях творящегося произвола чиновников.

ИИ — это передовая программная фармацевтика. Но без клинических испытаний, лицензирования и подробного перечня возможных побочных явлений. Она лечит болезни, но неизбежно наносит и большой вред.

Мировая ИИ-экосистема на нынешнем этапе развития сродни Бигфарме. Но в отличие от Бигфармы она вне государственного и частного контроля: и надзорного, и правового.

—
От исторической науки и искусственного интеллекта, оперирующих фактами, данными и документами, перекинем мостик в лингвистику…

Продолжим наши рассуждения уже применительно к ментальному программированию… На вход историк получает тексты. На выходе порождает тоже тексты. Т.е. это в чистом виде транслятор (в понимании компьютерного программирования: компилятор, либо интерпретатор).

Здесь напрашивается аналогия с классической концепцией русского философа и культуролога Михаила Михайловича Бахтина (1895-1975): диалог культур; искусство подразумевает послание, диалог. Его можно облечь в форму текста. Значит, культуру, искусство можно мыслить как текст (в широком смысле).

Основой и способом ведения диалога в теории М. М. Бахтина является текст, который представлен в форме различных знаковых систем (ими занимается семиотика). Одной из таких систем является искусство: «Любой продукт человеческого творчества своего рода «послание»; он по-своему «говорит», вопрошает и отвечает, несёт в себе «весть», которую нужно уметь «услышать» и которая, соприкасаясь с другим текстом, вновь и вновь актуализируется в целостной жизни культуры».

Бахтин утверждал, что любое научное познание человека всегда обращено к знаково-символической реальности, которая должна быть проинтерпретирована, потому что человеческий дух запечатлевается в текстах и «может быть дан… только в знаковом выражении».

Далее: «Если понимать текст широко — как всякий связный знаковый комплекс, то и искусствоведение (музыковедение, теория и история изобразительных искусств) имеет дело с текстами (произведениями искусства). Мысли о мыслях, переживания переживаний, слова о словах, тексты о текстах. В этом основное отличие наших (гуманитарных) дисциплин от естественных (о природе), хотя абсолютных, непроницаемых границ и здесь нет».

Бахтин считал текстом «знаковый комплекс, относящийся к высказываниям и имеющий те же признаки, что и высказывание». По Бахтину, любой текст («первичная данность» мысли) должен основываться на предшествующих текстах, которые были созданы авторами с особенным уникальным мировосприятием и собственным образом мира. В своём сборнике «Эстетика словесного творчества» (1979) он подчёркивает тот факт, что человека можно анализировать и изучать только через создаваемые им или созданные тексты (произведения искусства). «Любой текст строится как мозаика цитаций, любой текст есть продукт впитывания и трансформации какого-нибудь другого текста».

Та же мысль нашла продолжение в творческом наследии Юрия Михайловича Лотмана (1922-1993), одного из основоположников советской семиотики. Он утверждал, что «текст есть сложное устройство, хранящее многообразные коды, способные трансформировать получаемые сообщения и порождать новые, как трансформационный генератор, обладающий чертами интеллектуальной личности».

Точкой расхождения взглядов Бахтина и Лотмана были понятия «код» и «контекст». Весьма размытые в лингвистике и семиотике, но предельно конкретные в компьютерном программировании, в теории формальных языков.

Что характерно, и М. М. Бахтин, и Ю. М. Лотман подразумевали использование модной тогда у нас кибернетики в качестве важного инструмента анализа и синтеза в рамках своих концепций. Правда, кибернетики в узком смысле.

—
Сделаем шаг дальше. В развитие идей Бахтина и Лотмана. Сформулируем более сильное высказывание. Итак, основой их теорий, научных воззрений является именно текст.

По аналогии можно утверждать, что любой текст — это программа! А, значит, любое искусство подразумевает программирование. Мысленное, ментальное программирование.

Что это нам даёт? К тексту в понимании программы в той или иной степени применимы приёмы, методы и теории, разработанные в области программирования, включая классическую теорию формальных языков.

Что является результатом работы историка-транслятора? Как и в случае компьютерного программирования — программа, приложение, система, опирающаяся на многоуровневые данные.

Она может быть оформлена в виде статьи, диссертации, книги, монографии и т. п. Но это те рельсы, по которым нас направляют. Более того, дают пользовательский интерфейс и скачивают на наш ментальный компьютер.

Ну, а дальше — как обычно с программами. Какие-то вроде работают. Какие-то виснут. Какие-то приходится потом сносить. Но посмотреть изнанку, изучить нутро, как именно они сделаны, вы не можете. Ни о какой верификации кода речи нет. Разве что можно верифицировать как-то модели, методики и трансляторы (то бишь личность и биографию самих историков).

Здесь, пожалуй, справедливы все три ключевые постулата Эдсгера Дейкстры (1930-2002), лауреата Премии Тьюринга, аналога Нобелевки. Карла Маркса и Марка Твена компьютерного программирования в одном лице.

Три закона Дейкстры.

1. Первый закон Дейкстры. • Тестирование программ может показать наличие ошибок, но никогда не покажет их отсутствие.

2. Второй закон Дейкстры. • Если отладка — процесс удаления ошибок, то программирование должно быть процессом их внесения.

3. Третий закон Дейкстры. • Искусство программирования — это искусство организации сложности.

Они и определяют границы применимости и условность исторической науки (читай — искусственного интеллекта).

Стоит упомянуть ещё одно важное следствие параллели исторической науки с программированием. Речь идёт о неизбежной уязвимости любого научного исторического трактата. Для тех, кто им пользуется.

Закон Томпсона. В 1983 г. Кен Томпсон (род. 1943), другой лауреат Премии Тьюринга, автор операционной системы UNIX, в своей тьюринговой лекции убедительно показал, что нельзя доверять транслятору, «нельзя доверять программе, которую вы не написали полностью сами; сколько бы вы не исследовали и не верифицировали исходный текст — это не защитит вас от троянской программы».

Этот закон Томпсона справедлив для абсолютно любой системы искусственного интеллекта.

В среде историков нередко можно встретить давно сложившийся стереотип: что именно ввод в оборот новых источников, ранее неизвестных исторической науке, и является ключевым основанием пересмотра сложившихся концепций и теорий. И что чем позже была опубликована научная работа, тем она более «правильная». Якобы именно это вкупе и способно развивать, продвигать вперёд историческую науку.

Увы… Любая новая интерпретация даже безотносительно новых источников принципиально может перевернуть устоявшиеся научные воззрения. Просто иной взгляд. На то, что уже всем известно и доступно. При этом у любой новой интерпретации критичной, уязвимой становится сама невидимая изнанка этого ментального транслятора — мотивация, компетенция и опыт автора.

Не только у историка — у каждого человека есть своя интуитивная модель мира. Сквозь неё он и преломляет реальный и придуманный мир. Это и есть тайный, скрытый контекст изрекаемых истин.

И возвращаясь к уже сказанному… Абсолютно любой текст есть программа! А вот что или кто её интерпретирует, в каком контексте и как именно — это и определяет конечный результат. И в образовании, и в науке, и в искусстве, да и просто в жизни…

—
• Презумпция лжи. Голова Горгоны: http://panteono.ru/2021-10-30
• Философы, писатели и историки. Истоки ментального программирования: http://panteono.ru/2022-11-22
• Ментальность. Три закона Дейкстры: http://panteono.ru/2023-02-16
• Ментальное программирование и вторая грамотность: http://panteono.ru/2022-11-21
• Программирование: Америка задавила Европу: http://panteono.ru/2023-03-16
—
• Как полагаться на доверие. В науке и в жизни: http://panteono.ru/2021-03-30
• Созвучия и микробиом мозга: http://panteono.ru/2021-05-25
• Сердце, мозг и разум: http://panteono.ru/2021-07-22
• Наука и презумпция лжи: http://panteono.ru/2021-08-27
• Бердяев. Философия истории и диктатура машин: http://panteono.ru/2023-03-17

—
Руслан Богатырев — математик, поэт, публицист, историк науки и искусства, директор Европейского центра программирования им. Леонарда Эйлера, вед. эксперт Комитета национального наследия, главный редактор арт-журнала «Пантеон».