Станут Ли Машины Когда-Нибудь Сознательными?

Будущее, в котором мыслительные способности компьютеров приближаются к нашим собственным, приближается. Мы чувствуем, как все более мощные алгоритмы машинного обучения (ML) дышат нам в затылок. Прогресс, в ближайшие десятилетия, приведет к появлению машин с интеллектом человеческого уровня, способных говорить и рассуждать, с несметным вкладом в экономику, политику и, неизбежно, военное искусство. Рождение истинного искусственного интеллекта глубоко повлияет на будущее человечества.

В качестве примера можно привести следующие цитаты:

“С тех пор, как в конце 1940-х годов был достигнут последний большой прорыв в области искусственного интеллекта, ученые всего мира искали способы использования такого "искусственного интеллекта" для совершенствования технологий, выходящих за рамки того, что могут достичь даже самые сложные современные.”

“Даже сейчас продолжаются исследования, чтобы лучше понять, что смогут сделать новые программы ИИ, оставаясь в рамках сегодняшнего интеллекта. Большинство программ ИИ в настоящее время ограничены, в основном, принятием простых решений или выполнением простых операций с относительно небольшими объемами данных.”

Эти два абзаца были написаны GPT-2 (прим. в оригинале), языковым ботом, который ученые испытывали прошлым летом. Разработанный OpenAI, институтом в Сан-Франциско, который продвигает ИИ, GPT-2, — это ML-алгоритм с кажущейся идиотской задачей: ему на вход дается небольшое количество текста, а он должен предсказать следующее слово. Сеть не учат “понимать” прозу в любом человеческом смысле. Вместо этого на этапе обучения он настраивает внутренние связи в своих имитируемых нейронных сетях. Он обучался на 8 миллионах веб-страниц и в сейчас имеет более миллиарда соединений, имитирующих синапсы.

Потомство таких ботов выпустит приливную волну “deepfake” - обзоры продуктов и новостные сюжеты. Они станут лишь еще одним примером программы, которая делает то, что до сих пор считалось исключительно человеческим — играют в StarCraft, переводят тексты, пишут рецензии на книги и фильмы, узнают людей на картинках и видео.

Потребуется много времени, прежде чем алгоритм сможет написать шедевр, столь же хороший, как «В поисках утраченного времени» Марселя Пруста. Вспомним, что все ранние попытки играть в компьютерные игры, переводить и говорить были неуклюжими, потому что им явно не хватало мастерства и лоска, но с изобретением глубоких нейронных сетей и массивной вычислительной инфраструктуры технологической индустрии компьютеры неуклонно совершенствовались, пока их результаты не перестали казаться смехотворными. Как мы уже видели на примере го, шахмат и покера, современные алгоритмы способны превзойти людей, и когда они это делают, наш смех превращается в ужас. Разве мы похожи на ученика чародея Гете, вызвавшего духов-помощников, которых мы теперь не можем контролировать?

ИСКУССТВЕННОЕ СОЗНАНИЕ?

Хотя эксперты расходятся во мнениях относительно того, что именно представляет собой интеллект, естественный или нет, большинство признает, что рано или поздно компьютеры достигнут того, что называется сильным искусственным интеллектом (AGI).

Акцент на машинном интеллекте затеняет совсем другие вопросы: будет ли это похоже на что-то близкое к AGI? Могут ли программируемые компьютеры когда-либо обрести сознание? Под “сознанием” или “субъективным чувством” подразумевается качество, присущее любому переживанию — например, осознание восхитительного вкуса Нутеллы, острого жала инфицированного зуба, медленного течения времени в моменты скуки или чувства тревоги перед соревновательным событием.

Подумайте о смущающем чувстве внезапного осознания того, что вы только что допустили оплошность, когда то, что вы рассказывали как шутку, было воспринято как оскорбление. Могут ли компьютеры когда-либо испытать столь объемные эмоции? Когда вы говорите по телефону, ожидая минуту за минутой, и искусственный голос интонирует: “Мы сожалеем, что заставили вас ждать”, действительно ли программное обеспечение чувствует себя плохо, удерживая вас в аду обслуживания клиентов?

Нет никакого сомнения в том, что наш интеллект и наш опыт являются неизбежными следствиями естественных сил нашего мозга, а не чего-то сверхъестественного. Эта предпосылка очень хорошо послужила науке в течение последних нескольких столетий. Трехфунтовый, похожий на тофу человеческий мозг — это, безусловно, самый сложный кусок организованной материи в известной нам вселенной, но он должен подчиняться тем же физическим законам, что и собаки, деревья и звезды. Ничто не получает бесплатный билет. Мы еще не до конца понимаем причинные силы мозга, но мы испытываем их каждый день — одна группа нейронов активна, когда вы видите цвета, в то время как клетки, работающие в другом кортикальном районе ответственно за хорошее настроение. Когда эти нейроны стимулируются электродом нейрохирурга, субъект видит яркие цвета или взрывается смехом, и наоборот, отключение мозга во время анестезии устраняет такие переживания.

Учитывая эти широко распространенные предпосылки, что будет означать эволюция истинного ИИ относительно возможностей искусственного сознания?

Размышляя над этим вопросом, мы неизбежно приходим к развилке, ведущей к двум принципиально различным направлениям. Дух времени, воплощенный в романах и фильмах, как "Бегущий по лезвию", "Она" или "Из машины", решительно шагает по дороге к предположению, что разумные машины будут действительно разумными: они будут говорить, рассуждать, владеть самоконтролем и способны к самоанализу. Сознательны сами по себе.

Этот путь наиболее ярко представлен теорией глобального нейронного рабочего пространства (GNW), одной из доминирующих научных теорий сознания. Теория начинается с мозга и предполагает, что некоторые из его специфических архитектурных особенностей являются тем, что порождает сознание.

Его происхождение можно проследить от архитектуры blackboard 1970-х годов, когда специализированные программы обращались к общему хранилищу информации, называемому blackboard или центральным рабочим пространством. Психологи постулировали, что такой ресурс обработки информации существует в мозге и является центральным для человеческого познания. Его емкость невелика, поэтому только один перцепт, мысль или память занимают рабочее пространство в любой момент времени. Новая информация конкурирует со старой и вытесняет ее.

Нейробиолог Станислас Деан и молекулярный биолог Жан-Пьер Чанье, оба из Парижского Коллеж де Франс, сопоставили эти идеи с архитектурой коры головного мозга — самого внешнего слоя серого вещества. Два сильно сложенных кортикальных листа, один слева и один справа, каждый размером и толщиной с 14-дюймовую пиццу, втиснуты в защитный череп. Деан и Чанье постулировали, что рабочее пространство создается сетью пирамидальных (возбуждающих) нейронов, связанных с обширными кортикальными областями, в частности префронтальными, теменно-височными и срединными (поясными) ассоциативными областями.

Большая часть мозговой активности остается локализованной и, следовательно, бессознательной. Например, активность модуля, контролирующего направление взгляда глаз, о чем мы почти полностью забываем, или активность модуля, регулирующего положение нашего тела. Но когда активность в одной или нескольких областях превышает пороговое значение — скажем, когда кто-то получает изображение баночки с Нутеллой — это запускает зажигание, волну нервного возбуждения, которая распространяется по всему пространству, по всему мозгу. Таким образом, эта сигнализация становится доступной для множества вспомогательных процессов, таких как язык, планирование, схемы вознаграждения, доступ к долговременной памяти и хранение в буфере краткосрочной памяти. Акт глобальной трансляции этой информации — это то, что делает ее сознательной. Неподражаемый опыт Нутеллы состоит из пирамидальных нейронов, контактирующих с моторно-планирующей областью мозга, выдающих команду схватить ложку, чтобы зачерпнуть немного ореховой начинки. В то же время другие модули передают сообщение, чтобы ожидать вознаграждение в виде дофаминового всплеска, вызванного высоким содержанием жира и сахара.

Сознательные состояния возникают из того, как алгоритм рабочего пространства обрабатывает соответствующие сенсорные входы, моторные выходы и внутренние переменные, связанные с памятью, мотивацией и ожиданием. Глобальная обработка — это и есть сознание. Теория GNW полностью охватывает современные мифы о почти бесконечных возможностях вычислений. Сознание — это просто хитроумный хак.