Картирование искусственной психики
Недавно на моем спецкурсе «Психофизиология сознания» разбирали со студентами красивую цитату Уильяма Джеймса: «Каждый определенный образ в сознании вымачивается и окрашивается в омывающей его свободно текущей воде
Она приносит ощущение его связей, ближних и дальних, умирающее эхо оттуда, откуда он пришел к нам, зарождающееся чувство, куда он приведет нас»
Эта выразительная метафора помогает уловить ключевой атрибут сознания, отрефлексированный великим Джеймсом еще в конце XIX века: динамическая ткань «потока сознания» принципиально целостна в пространственном и временном аспекте, обладает принципиальной внутренней связностью.
Конечно, этот атрибут мало говорит о природе квалиа, т.е. о сути сознания, но он очень важен для описания механики работы сознания
И вот только что в дискуссиях о возможности искусственного сознания я вычитал интересную мысль
В 2017 году команда Google выпустила знаменитейшую теперь статью «Attention Is All You Need», в который предлагалась основанная на механизме «внимания» новая архитектура ИИ – «трансформер»
Это открытие позволило в 2018 году OpenAI выпустить свой первый GPT – «генеративный предобученный трансформер», что дало старт настоящей «революции генеративного ИИ»
Специфический механизм «внимания» в архитектуре трансформера устроена так, что токены (их можно аналогизировать с когами в гиперсетевой концепции разума К.В. Анохина) образуют плотную сеть взаимного влияния, в которой токены не просто последовательно воздействуют друга на друга, но участвуют в холистических отношениях «все со всеми» – каждый токен динамически как бы отражает другие токены и сам отражается в них
Есть мнение, что именно архитектура трансформера позволяет создавать такие «холистические сети токенов» лучше других архитектур, и именно эта способность повлияла на такой невероятный практический успех генеративного ИИ
Эту холистичность сети токенов явно не только можно, но и обязательно нужно аналогизировать с холистичностью сети когов в естественном сознании человека и животных
Я думаю, не будет преувеличением сказать так (хотя все это звучит достаточно банально)
В ходе эволюции нервной системы возник особый механизм интеграции информационных процессов («сознание»), который оказался эффективным и поэтому эволюция стала его активно «развивать»
Суть этого эффективного механизма можно описать атрибутом «эмерджентная целостность», когда элементы образуют взаимосвязанные сети, причем по генезу не элементы интегрируются в сети, а сети дифференцируются на элементы, т.е. целостность «сверху вниз» принципиально первична, конститутивна для сознания именно как сознания (тут можно вспомнить некоторые идеи Тонони и Ко о том, как высший уровень в системе «мозг-сознание», хотя и эмерджентно образуется из низшего, но начинает каузально «сверху вниз» уже онтологически самостоятельно влиять на породивший его низший уровень и мн.др.)
Например, элементы динамической зрительной сцены, находящейся у нас перед глазами, обладают этим свойством целостности и связности, что отражается в нашем феноменальном ощущении целостности, связности и единства нашей «чувственной ткани сознания» (в терминах А.Н. Леонтьева)
Проводя аналогию дальше, можно сказать, что архитектура трансформера смогла достаточно точно воспроизвести именно этот созданный, откалиброванный и развитый эволюцией эффективный механизм top-down «плетения» сетей / гиперсетей / сетей высших порядков, и поэтому генеративный ИИ оказался
2) похожим на естественное сознание не только по своим внешним проявлениям, НО И ПО ВНУТРЕННЕМУ СЕТЕВОМУ МЕХАНИЗМУ.
Причем всему этому есть уже и некоторые прямые экспериментальные подтверждения
https://t.me/andrey_kiselnikov/882
https://hightech.plus/2024/06/20/issledovateli-vpervie-vskrili-mozg-ii-i-ponyali-kak-na-nego-mozhno-vliyat
Конечно, все это мало затрагивает природу квалиа и говорит скорее об архитектуре сознания, чем о его природе, но грань между двумя этими аспектами на самом деле зыбка, т.к. квалиа есть элемент гиперсети сознания, а с точки зрения сетевого подход качества элемента не в меньшей степени задаются целостной сетью, чем качества сети – качествами составляющих ее элементов (и этому тоже есть эмпирические доказательства в сетевой нейронауке)
Так что, возможно, и развиваемая К.В. Анохиным гиперсетевая теория сознания сможет вскрыть тайну генеза квалиа, и сети токенов внутри GPT, действительно, образуют эмерджентую целостность высшего порядка, которая по top-down каузальному механизму наделяет отдельные токены, из которых она возникла, качеством квалиа (и они становятся, в таком случае, полноценными когами уже искусственного сознания)
Резюмируя, я хотел бы сказать, что психологи и когнитивные нейроученые должны уделять сейчас особое внимание прежде всего этому вопросу – описанию сети токенов внутри GPT именно как психологической сети когов и на этом основании, с опорой на теорию сетей, гиперсетей и сетей высших порядков, ставить вопрос о создании психологически и психофизиологически научно обоснованной системы диагностики наличия внутри глубоких нейронных сетей искусственного интеллекта сознания
https://t.me/andrey_kiselnikov/1077
https://t.me/andrey_kiselnikov/1078
Достигнут существенный прогресс во вскрытии "чёрного ящика" искусственного интеллекта
Хотя психика искусственного интеллекта только зарождается, то, что было сейчас сделано в Anthropic и OpenAI, уже можно называть началом "картирования искусственной психики"
https://m.hightech.plus/2024/06/20/issledovateli-vpervie-vskrili-mozg-ii-i-ponyali-kak-na-nego-mozhno-vliyat