100 млрд. танцующих роботов Дэниела Деннета
Вчера скончался известный американский философ Дэниел Деннет, ему было 82 года. Это был человек, который соединил мой (не очень большой) инженерный опыт с философией. Из его книг я стал понимать как может быть устроено человеческое сознание, как может быть создан искусственный интеллект, как может образоваться коллективное сознание людей и машин.
Я первый раз познакомился с его творчество, прочитав в 2014 году книгу Дмитрия Волкова «Бостонский зомби. Д.Деннет и его теория сознания». По итогам чтения была написана заметка, которую публикую здесь.
Философская система Дэниела Деннета претендует на раскрытие тайны сознания. И действительно, по прочтению книги складывается впечатление, что эффект сознания может быть получен на основе ряда объяснимых, эволюционно закономерных механизмов. По Деннету сознание есть всего лишь 100 млрд. танцующих роботов. Нет никакой критической грани, отличающей нас от простейших биологических организмов, а также теоретически от искусственного разума. Деннет не видит качественных вопросов в его создании.
Но в тоже время он оценивает перспективы появления искусственного интеллекта как очень отдаленные. Он усматривает проблему в медленности цифровых компьютеров. Для воспроизводства функционала мозга необходимо уметь выполнять 10 в 15 степени операций в секунду.
«Если ты не можешь разобраться в важных изменениях окружающей среды в режиме реального времени и сообразно этим изменениям выработать ответную реакцию, каким бы сложным не было устройство, твоя рациональность не практична».
В книге Дмитрия Волкова «Бостонский зомби. Д.Деннет и его теория сознания» много интересных рассуждений, примеров и умозаключений о природе сознания. Кстати, книга написано достаточно ясно и четко. Но мне, прежде всего, интересно было ухватить что-либо с позиции разработчика интеллектуальных систем. И вот моя сугубо субъективная утилизация концепций Деннета, представленных в данной книге.
- Модель множественных набросков. Досознательная работа мозга представляется как поток множественных набросков, находящихся в постоянном, бесконечном редактировании. Эта работа организована на множестве специализированных модулей (квазиразумных агентов, «демонов») параллельным, неирархическим, конкурентным образом. Каждый такой квазиразумный агент выполняет одну простую функцию, при этом его деятельность может быть рассмотрена через призму интенциональной установки. Нет никакого центрального органа, который регулирует работу квазиразумных агентов. Они достаточно автономны, но руководствуются некоторыми схемами поведения. Эти схемы привязаны к определенным структурным конфигурациям внешнего мира и внутренних состояний. Однако эти схемы (являющиеся выражением убеждений и желаний) корректируются из другой подсистемы (виртуальной машины мемов).
- Виртуальная машина мемов. Выхваченные в результате пробы (инициированной внешним или внутренним стимулом) наброски попадают в общее рабочее пространство, где подвергаются сознательной (логической) обработке как на основе утверждений, описывающих в набросках ситуацию и внутреннее состояние, так и на основе мемов (единиц культуры, знаний, накопленных человеком). В результате логических операций вырабатывается нарратив. Работа здесь организована последовательно. Нарратив становится доступен всем квазиразумным агентам как схема (инструкция) поведения. Кроме того, нарратив, произнесенный в форме речи, является основой для формирования расширенного фенотипа субъекта – его личности. В рамках автобиографии личности формируются\осознаются интенции, которые помимо всего прочего могу повлиять на нарратив.
- Центр нарративной гравитации. Личность является разумным агентом. Однако личность это не организм. Личность это герой повествования, формирующегося из интенциональных состояний и объективных фактов поведения. Это повествование создается в результате самонаблюдения и наблюдения относительно данной личности других людей. Это повествование формирует историю намерений и убеждений. Данная деятельность является внешней относительно субъекта и существенно определяется социальной средой. Процессы жизнедеятельности под давлением социального окружения прокладывают канву биографической истории. Нарративы, произнесенные или воспроизведенные субъектом в деятельности, заполняют эту канву. Рефлексивное отношение к биографической истории самого субъекта и его окружения позволяют идентифицировать руководящие намерения, желания, мотивы.
Концептуальные механизмы, предложенные Деннетом, могут быть высокоуровневыми ориентирами для разработки интеллектуальных систем. В нашей работе по созданию многоагентной системы интеллектуального управления уже проводится идея параллельной неирархической организации множества квазиразумных агентов, выполняющих простые функции. Об использовании семантических технологий (близко к виртуальной машине мемов) мы уже думаем. Идея близкая к центру нарративной гравитации в нашу архитектуру заложена как социальная сеть агентов. Но продумывание ее реализации еще впереди.
Меня больше всего поразила мысль про то, что личность не в мозге человека, а в (вымышленном) герое его биографической истории – внешнем относительно сознания субъекта артефакте. Человек по классификации Деннета относится к «грегорианским существам», которые проектируют и изменяют окружающую среду и тем самым передают информацию. Любой артефакт не только результат интеллектуальной деятельности, но и ее источник. Социальный процесс ведет человека к интеллектуальным вершинам. Биографическая история такой же артефакт и она с одной стороны результат жизнедеятельности субъекта, но она же и направляющая сила для субъекта.