Мыслящий ИИ: Как искусственный интеллект эмулирует человеческое понимание - Джон МакКормик

Введение в авторскую концепцию

Книга профессора компьютерных наук Джона МакКормика «Thinking AI» посвящена фундаментальному вопросу современности: могут ли компьютерные программы по-настоящему мыслить или они лишь правдоподобно имитируют человеческий разум? Автор отказывается от дешевых сенсаций и упрощенных бинарных ответов («да/нет»), подчеркивая, что сложные философские проблемы требуют тонкого, основанного на фактах анализа.

Главная цель книги — провести неподготовленного читателя по инженерным и теоретическим основаниям ИИ XXI века без математических формул и программирования, показав поразительные параллели между работой кремниевых алгоритмов и биологического мозга.

Центральной объединяющей нитью всей работы служит концепция эмерджентности (emergence) — феномена, при котором сложное, высокоуровневое поведение (такое как разум, интуиция или творчество) спонтанно возникает в результате взаимодействия колоссального количества простых, лишенных интеллекта базовых элементов.

Глава 1. Введение: Мыслящий ИИ (Introduction: AI That Thinks)

Глава открывается афористичным высказыванием пионера программирования Грейс Хоппер из ее интервью 1980 года: мы постоянно недооцениваем то, на что способны компьютеры, если приложить настоящие усилия. Вслед за этим МакКормик обращается к исторической статье Алана Тьюринга 1950 года «Вычислительные машины и интеллект», где математик и криптограф задал дерзкий вопрос: «Могут ли машины мыслить?»

Спустя более семидесяти лет этот вопрос звучит острее, чем когда-либо. Человеческая интуиция упорно сопротивляется мысли о том, что безжизненный кусок кремния может быть функционально эквивалентен живому мозгу. Медийная шумиха и полярные мнения экспертов затрудняют формирование взвешенного взгляда. Автор формулирует шесть ключевых тезисов, на которых строится вся аргументация книги:

Принципиальная возможность эмуляции: Компьютерные программы в теории способны выдавать результаты, идеально воспроизводящие такие проявления разума, как креативность, интуиция, сознание и мышление.
Качество современных систем: Современный ИИ пока не воспроизводит эти феномены безупречно, однако в ряде областей качество эмуляции уже чрезвычайно высоко.
Глубинные параллели механизмов: В определенных случаях современные системы ИИ воспроизводят мышление методами, имеющими четкие и несомненные аналогии с нейробиологическими процессами человеческого мозга.
Решающая роль эмерджентности: Эти параллели опираются на эмерджентность — способность системы демонстрировать высокоуровневые свойства исключительно за счет взаимодействия гигантского числа простых компонентов. Как человеческий разум рождается из взаимодействия нейронов, так и некоторые формы машинного интеллекта рождаются из взаимодействий данных и искусственных нейронов (эмерджентный ИИ / emergent AI).
Демостификация для неспециалиста: Понимание инженерных механизмов эмерджентности дает обществу инструмент для объективного ответа на вопрос: какими конкретно способами программы могут казаться мыслящими?
Сохранение ценности человечества: Признание правдоподобия эмерджентного машинного мышления не обесценивает человеческую культуру, жизнь и уникальный опыт.

МакКормик выбирает четыре опорные точки современной революции ИИ:

победу суперкомпьютера Watson в викторине Jeopardy! (понимание языка в реальном времени);
триумфы алгоритмов в глубоких логических и стратегических играх (шахматы, го, покер);
преодоление кризиса в распознавании визуальных объектов благодаря глубоким сверточным сетям;
появление генеративных архитектур на базе трансформеров (семейство ChatGPT).

Касаясь социальных рисков, автор дистанцируется от спекуляций о скором «апокалипсисе»: прямой экзистенциальной угрозы для выживания человечества на текущем этапе нет. Однако реальная опасность кроется в другом: мыслящие алгоритмы неизбежно усиливают социальное неравенство, системную предвзятость (bias) и дискриминацию, если разработчики не предпринимают непрерывных усилий по их нейтрализации.

Глава 2. Тест Тьюринга: тогда и сейчас (The Turing Test, Then and Now)

Глава начинается с цитаты Памелы МакКордак из ее классического труда «Machines Who Think» (1979): «Каждый раз, когда кто-то придумывал, как заставить компьютер что-то сделать... поднимался хор критиков, заявлявших: но ведь это не мышление».

МакКормик отмечает редкий феномен: чисто философский мысленный эксперимент полувековой давности превратился в массовый утилитарный инструмент. Речь идет о тестах CAPTCHA (Completely Automated Public Turing test to tell Computers and Humans Apart), призванных отличать человека от бота при заполнении форм в интернете. Однако здесь тест Тьюринга вывернут наизнанку: машина проверяет человека.

Но почему сам Тьюринг предложил текстовый диалог? Автор напоминает: проанализировав формулировку «Может ли машина мыслить?», Тьюринг признал ее слишком бессмысленной, чтобы заслуживать обсуждения, поскольку понятие «мышление» субъективно и не поддается строгому эмпирическому определению. Тьюринг предложил бихевиористскую замену: судить не о ненаблюдаемых внутренних состояниях, а об наблюдаемом поведении.

МакКормик преобразует исходную дилемму в центральный вопрос всей книги (Box 2.1):

«Какими способами компьютерные программы могут производить впечатление человеческого мышления?» (In what ways can computer programs appear to think like humans?)

Две версии «Игры в имитацию»

Большинство популярных пересказов теста Тьюринга упускают из виду, что в статье 1950 года описаны две разные игры:

Вариант 1 (Гендерная игра): Играют трое людей — мужчина ($M$), женщина ($W$) и судья ($J$). Они общаются исключительно текстовыми сообщениями. Задача мужчины — убедить судью в том, что он женщина; задача женщины — помочь судье установить правду.
Вариант 2 (Стандартный тест): Машина заменяет мужчину $M$. Программа ($C$) должна убедить судью, что она — живой человек, соревнуясь со скрытым реальным человеком ($H$).

Чтобы вскрыть уязвимость поверхностного бихевиоризма, МакКормик предлагает остроумный мысленный эксперимент с гипотетическим участником по имени Эдуардо. Предположим, мужчина Эдуардо виртуозно играет в гендерную игру и в 50% случаев убеждает судей, что он женщина. Означает ли это, что Эдуардо «думает как женщина»? Разумеется, нет. Это доказывает лишь то, что Эдуардо обладает превосходным знанием женской психологии, социокультурного контекста и способен искусно эмулировать соответствующие высказывания.

Точно так же, если убежденный марксист Эдуардо в идеологической игре безукоризненно имитирует капиталиста, судьи поверят ему, но капиталистических взглядов у него от этого не появится.

Перенося это на гипотетического чат-бота EduardoBot, автор формулирует вывод: успех в тесте Тьюринга доказывает лишь способность программы эмулировать собеседника, но сам по себе ничего не говорит о характере внутренних мыслительных процессов. Чистый бихевиоризм постулирует: если нечто ведет себя как мыслящее существо, значит, оно мыслит. МакКормик занимает промежуточную, более строгую позицию: мы должны заглянуть внутрь архитектуры системы, чтобы понять, возникают ли в ней процессы, родственные человеческому мышлению.

Слабость эмпирического теста обнажили реальные соревнования вроде Loebner Prize и скандал 2014 года с программой «Eugene Goostman», выдававшей себя за 13-летнего украинского подростка. Бот обманул треть непрофессиональных судей за счет детских уловок, юмора и языковых шероховатостей, но был мгновенно разоблачен опытными учеными (например, Скоттом Ааронсоном), задававшими вопросы на элементарный здравый смысл (вроде «Что больше — обувная коробка или Эверест?»).

Глава 3. Диалоги с компьютерами: от ELIZA до Watson и далее (From ELIZA to Watson and Beyond)

В эпиграфе к главе когнитивист Мелани Митчелл иронизирует над языковыми моделями: «Если этот текст читают компьютеры, пусть скажут мне, к чему относится слово „это“ в предыдущем предложении, и добро пожаловать в дискуссию».

МакКормик обращается к истории диалоговых систем, чтобы продемонстрировать два ключевых подхода к ИИ:

GOFAI (Good Old-Fashioned AI): «Старый добрый символьный ИИ», работающий на жестких, заранее прописанных человеком логических правилах.
Машинное обучение: Системы, извлекающие закономерности из больших объемов данных.

Эффект ELIZA

В 1966 году Джозеф Вейценбаум создал программу ELIZA со знаменитым скриптом DOCTOR, имитировавшим роджерсианского психотерапевта. Вся логика программы умещалась на двух страницах правил сопоставления с шаблонами (pattern matching): при вводе фразы «Мне нужно X», программа подставляла переменную в ответ: «Что для вас значило бы получить X?» Если пользователь вводил абракадабру («Мне нужно asdfzxcv»), программа без колебаний попугайски переспрашивала: «Почему вы хотите asdfzxcv?»

Несмотря на примитивность, пользователи часами изливали программе душу. Это породило понятие «эффект ELIZA» (ELIZA effect) — устойчивую когнитивную иллюзию человека, склонного приписывать глубокое понимание, сопереживание и разум любой машине, выдающей грамматически связный текст.

Архитектура IBM Watson

Через четыре десятилетия после ELIZA компания IBM представила систему Watson, разгромившую в феврале 2011 года легендарных чемпионов телевикторины Jeopardy! — Кена Дженнингса и Брэда Раттера. Специфика игры требует не просто фактографических знаний, но расшифровки каламбуров, аллюзий и тонких контекстных подсказок за доли секунды.

Вопреки распространенному заблуждению, Watson не был подключен к интернету и не являлся гигантской поисковой таблицей. Система оперировала автономным корпусом данных объемом порядка десятков терабайт (сопоставимо с объемом текстов Библиотеки Конгресса США) и объединяла неструктурированные тексты с мощными базами знаний:

WordNet — лексико-семантическая сеть, объединяющая более 100 000 существительных в детальные деревья понятий (например, классификация ручного инструмента: молотки, пилы, отвертки);
dbPedia — структурированное извлечение сущностей из Википедии (миллионы людей, мест, организаций), связанное реляционными связями и доступное для запросов на языке SPARQL.

Обработка подсказки в Watson шла по принципу «множества экспертов» (many experts) в три параллельные стадии:

Анализ вопроса (Question Analysis): Выделение синтаксического фокуса (слова, которое заменяется ответом) и определение LAT (Lexical Answer Type) — лексического типа ответа (указание на категорию сущности: поэт, город, химический элемент).
Генерация гипотез (Hypothesis Generation): Параллельный поиск сотен предварительных кандидатов через текстовые индексы и графы знаний.
Скоринг (Scoring): Первичный отсев до 100 кандидатов с последующей прицельной оценкой более чем 50 независимыми алгоритмами (анализ совпадения контекста, проверка географических и временных рамок, соответствие типов).

Итоговый балл формировался не вручную, а сложной математической формулой, настроенной с помощью машинного обучения на тысячах архивных игр.

Проявления нечеловеческой природы и мостик к психологии

Несмотря на феноменальный успех, Watson совершал показательные ошибки:

в категории «Города США» он ответил «Торонто» (город в Канаде), проигнорировав жесткое ограничение категории из-за низкого веса признака в скоринге;
в категории «Назовите десятилетие» он повторил ошибочный ответ соперника («1920-е»), так как не «слышал» речи людей в студии;
рассчитывая ставки в Daily Double, он оптимизировал сумму до доллара (например, $367), вызывая смех зала своей механистичностью.

Тем не менее МакКормик проводит глубокую аналогию между архитектурой Watson и двухкомпонентной моделью человеческого мышления Даниэля Канемана:

Система 1 (быстрое, интуитивное, бессознательное мышление): мгновенно выбрасывает десятки ассоциаций и черновых гипотез. Человеческий мозг бессознательно генерирует кандидатов и отсеивает их на лету.
Система 2 (медленное, осознанное, логическое рассуждение): взвешивает отобранные варианты, оценивает уверенность и принимает итоговое решение.

Хотя Watson опирался преимущественно на принципы GOFAI и не был по-настоящему мыслящей системой, в его двухступенчатом поиске ответов уже проглядывали функциональные искры человекоподобного когнитивного процесса.

Глава 4. Эмерджентность: как ИИ становится «мыслящим» (Emergence: How AI Becomes Thinking AI)

Четвертая глава закладывает философский фундамент для всей второй половины книги. Ее предваряет лаконичный эпиграф Йохена Фромма из монографии «The Emergence of Complexity»:

«Одна молекула воды не обладает текучестью,
один атом золота не является металлическим,
один нейрон не обладает сознанием,
одна аминокислота не является живой».

МакКормик дает строгое определение: свойство или поведение системы называется эмерджентным, если оно возникает исключительно в результате взаимодействий огромного количества простых компонентов, ни один из которых этим свойством по отдельности не обладает.

Классический физический пример — медная проволока. Она гибка и электропроводна. Но отдельный атом меди не обладает гибкостью или проводимостью — бессмысленно даже ставить такой вопрос. Проводимость — это макроскопическое свойство, возникающее на масштабах решетки из триллионов атомов. Другой пример — погода: поведение циклонов, формирование снежинок или траектория разрушительного урагана рождаются из физических законов движения молекул воздуха и термодинамики. Мы не сомневаемся, что ураган полностью материален и детерминирован законами физики, но при этом признаем ураган реальным объектом макромира.

Точно так же обстоит дело с сознанием и разумом: миллиарды биологических нейронов, обмениваясь электрохимическими сигналами, порождают макрофеномен человеческой психики.

Понятие Emergent AI (Эмерджентный ИИ)

МакКормик вводит авторский термин: эмерджентный ИИ — это любой аспект компьютерной программы, использующий феномен эмерджентности для создания подлинного или кажущегося человекоподобного мышления.

При столкновении со сложными алгоритмами возникают две позиции:

Редукционистский взгляд: признает реальность только мельчайших базовых кирпичиков. Редукционист утверждает: «Любая программа — это лишь манипуляция байтами, выполнение инструкций процессора и нули с единицами. Никакого мышления здесь нет и быть не может».
Эмерджентистский взгляд: признает макроскопические свойства системы самостоятельной объективной реальностью. Если гигантская сеть взаимодействующих весов порождает распознавание понятий, способность к языку или творческую стратегию, эмерджентист констатирует появление новой качественной сущности — машинного понимания.

Автор настаивает: редукционизм и эмерджентизм не враждуют, а взаимно дополняют друг друга. Мозг — это всего лишь скопление клеток (редукционизм), но личность и сознание абсолютно реальны (эмерджентизм). Точно так же программа — это лишь строки машинного кода, но на системном уровне она может проявлять качества мыслящего интеллекта.

МакКормик опирается на классиков:

Марвин Минский в книге «Общество разума» (1986) показал, что интеллект складывается из взаимодействий огромного сообщества элементарных агентов, каждый из которых сам по себе глуп;
Джон Хопфилд (лауреат Нобелевской премии по физике 2024 года) еще в 1982 году доказал возможность спонтанного возникновения ассоциативной памяти в сетях искусственных нейронов благодаря коллективному поведению системы.

Глава 5. Низкоуровневая эквивалентность мозга и компьютера (The Low-Level Equivalence of Brains and Computers)

Глава открывается эпиграфом из классической статьи Уоррена Маккалока и Уолтера Питтса (1943): «Каждой реакции любого нейрона соответствует утверждение простого суждения». Если в остальных вопросах книги автор избегает категоричных ответов «да/нет», то здесь формулируется строгое утверждение: на базовом уровне сети биологических нейронов и цифровые компьютеры технически эквивалентны.

Что такое низкоуровневая эквивалентность?

В инженерной терминологии под низким уровнем понимаются мельчайшие базовые компоненты системы. Для цифрового компьютера это логические вентили (И, ИЛИ, НЕ / AND, OR, NOT), а для нервной системы — отдельные биологические нейроны.

МакКормик последовательно доказывает тезис в обоих направлениях:

1. Человеческий мозг способен симулировать компьютерные программы:

o Любая компьютерная программа, осуществляющая цифровые преобразования данных, математически сводится к электронной схеме из вентилей И, ИЛИ и НЕ.

o Биологический нейрон принимает входящие импульсы через дендриты, суммирует их потенциал в теле клетки (соме) и генерирует потенциал действия (спайк) по аксону, если суммарный заряд превышает порог возбуждения. Это описывается моделью «протекающей ванны» (leaky integrate-and-fire model).

o Нейрон может работать как логический вентиль И: если порог возбуждения равен 10 условным единицам, а дендриты $A$ и $B$ дают сигналы силой 5 и 7 единиц соответственно, то нейрон сработает только при одновременной активности обоих входов. В биологической реальности это может быть нейрон, активирующийся лишь тогда, когда организм одновременно видит и чувствует запах розы.

o Заменив каждый логический вентиль и провод компьютерной схемы эквивалентным нейроном и синаптической связью, мы получаем нейронную сеть, в точности повторяющую вычисления исходной программы. Любая цифровая программа может быть исполнена сетью нейронов.

2. Компьютерные программы способны симулировать мозг:

o Биофизические процессы нейронов подчиняются законам физики и химии (уравнения Ходжкина — Хаксли, динамика ионных каналов).

o Компьютерная программа способна с необходимой степенью точности рассчитывать математические модели этих процессов и воспроизводить выходные сигналы мозга. Это направление в когнитивных науках называется функциональной симуляцией (functional simulation).

Сильные и слабые стороны аргумента

Признание низкоуровневой эквивалентности имеет фундаментальное философское следствие: в человеческом разуме нет мистической нематериальной субстанции, выходящей за рамки физических процессов. Разум рождается как эмерджентное свойство материальной структуры.

Автор критически разбирает позицию физика сэра Роджера Пенроуза (книга «Тени разума»), утверждавшего, что сознание опирается на невычислимые квантовые гравитационные эффекты в микротрубочках. МакКормик отмечает, что гипотеза Пенроуза остается маргинальной и отвергается подавляющим большинством физиков, нейробиологов и философов сознания (таких как Макс Тегмарк и Дэвид Чалмерс).

Однако у низкоуровневой симуляции есть два существенных недостатка:

Практическая недостижимость: картирование коннектома человеческого мозга из десятков миллиардов нейронов и триллионов синапсов представляет собой трудновыполнимую вычислительную задачу.
Отсутствие концептуальной глубины: детальная симуляция каждого иона подтверждает возможность мышления в кремнии, но не объясняет, как именно функционируют высокоуровневые когнитивные механизмы (логика, язык, абстрактные концепции).

Глава 6. Обучение в мозге (Learning in the Brain)

Эпиграф из Дэвида Юма (1748) напоминает: человеческие суждения о причинности основаны на привычке связывать воедино события, регулярно происходящие вместе.

В биологическом мозге эта способность опирается на синаптическую пластичность и правило Хебба (Hebbian learning), сформулированное Дональдом Хеббом в 1949 году. В обиходе оно звучит как: «Нейроны, которые возбуждаются вместе, связываются вместе».

Механизм синаптического подкрепления

Если входящий сигнал синапса $S$ регулярно совпадает по времени со срабатыванием принимающего нейрона $N$ (например, в окне 10 миллисекунд), сила синаптической связи биохимически увеличивается через механизм долговременной потенциации (LTP). Например, проводимость синапса возрастает с 5.2 мВ до 5.3 мВ.

МакКормик иллюстрирует это на примере формирования ассоциаций:

Допустим, нейрон $N$ имеет сильный вход от зрительного образа розы и слабый вход от ее запаха.
Когда человек одновременно видит розу и вдыхает ее аромат, слабый обонятельный синапс активируется синхронно со вспышкой нейрона.
Со временем проводимость обонятельного синапса возрастает настолько, что нейрон начинает срабатывать уже от одного только запаха. Нейрон превращается в логическую схему ИЛИ, реагирующую на любой из двух стимулов.

Различие между обучением мозга и машинным обучением

Обучение по Хеббу служит классическим примером эмерджентности: отдельный синапс слепо выполняет простейшую локальную химическую реакцию, но миллиарды взаимодействующих синапсов формируют ассоциативную память и концептуальное обучение.

При этом автор обращает внимание на принципиальное инженерное различие:

Биологическое обучение (Хебб): строго локально. Синапс меняется только под действием внутренних биохимических сигналов клетки и непосредственно контактирующего аксона.
Машинное обучение (Backpropagation): нелокально. Алгоритм обратного распространения ошибки требует глобальной координации, передавая градиенты ошибок назад через всю толщу слоев сети, что в биологическом мозге в таком виде не реализуется.

Глава 7. Нейронные сети: инструмент революционный и эволюционный (Neural Networks: The Revolutionary and Evolutionary Tool)

Седьмая глава начинает последовательное восхождение по «лестнице познания», соединяющей математику машинного обучения с архитектурами искусственного интеллекта.

Структура и обучение искусственного нейрона

Искусственный нейрон принимает числовые значения входов, умножает каждое на соответствующий вес (weight), суммирует результаты, прибавляет смещение (bias) и передает итог через функцию активации.

Чтобы продемонстрировать обучение, МакКормик использует учебную задачу принятия решений: «Идти ли сегодня в спортзал?». Задача зависит от трех параметров:

$V$ — количество часов, уже проведенных в зале на этой неделе;
$P$ — часы подготовки, необходимые для предстоящего забега;
$E$ — текущий уровень энергии.

Вручную подобрать веса для сложных сетей невозможно, поэтому применяется стохастический градиентный спуск (Stochastic Gradient Descent, SGD) в связке с алгоритмом обратного распространения ошибки (Backpropagation):

Веса и смещения инициализируются полностью случайными числами.
Из обучающего набора извлекается мини-пакет примеров (minibatch).
Для каждого примера вычисляется ошибка сети (разница между текущим выходом и истинной меткой).
Алгоритм обратного распространения ошибки находит градиент функции потерь и корректирует веса на малую величину, определяемую скоростью обучения (learning rate) и регуляризацией (regularization).

Автор подробно разбирает конкретный пример: при первой случайной инициализации сеть ошибается на тестовой выборке в 62% случаев. Обрабатывая обучающий пример №276 ($V=2.26, P=0, E=0.83$, целевая метка 0 — «не идти»), сеть выдает 0.72. Алгоритм снижает вес $V$ с +0.61 до +0.53, и после 10 000 итераций вес $V$ становится отрицательным (-2.00), а веса $P$ и $E$ — положительными (+1.02 и +1.12), что полностью согласуется со здравым смыслом.

Сверточные нейронные сети (Convnets) и зрение

Когда мы переходим от единичных логических задач к распознаванию изображений, полносвязные многослойные сети терпят крах из-за комбинаторного взрыва числа связей. Решением стали сверточные нейросети (CNN), опирающиеся на три принципа:

Локальность (Locality): каждый нейрон сверточного слоя соединен не со всем изображением, а лишь с небольшим локальным окном — рецептивным полем (например, патчем 5×5 или 11×11 пикселей).
Разреженность (Sparsity): связи между слоями ограничены, что кардинально сокращает объем вычислений.
Связанные веса (Tied weights / Parameter sharing): один и тот же набор весов (фильтр/ядро) применяется ко всему изображению путем скольжения.

Биологическая аналогия: устройство сетчатки

МакКормик наглядно показывает, что биологическая эволюция пришла к точно таким же инженерным решениям за сотни миллионов лет до появления компьютеров:

В человеческой сетчатке фоторецепторы (палочки и колбочки) передают сигналы на биполярные клетки, обладающие локальными рецептивными полями (разреженность и локальность).
Биполярные клетки делятся на специализированные типы — в частности, on-center (возбуждаются при ярком центре и темных краях) и off-center (возбуждаются при темном центре и ярких краях).
Поскольку генетический код ДНК задает одинаковую белковую структуру и шаблон синаптических связей для всех клеток одного типа, природа реализует биологический эквивалент связанных весов.

Глава 8. Удивительная мощь глубоких нейросетей (The Surprising Power of Deep Neural Networks)

Термин глубокое обучение (deep learning) автор разделяет на два аспекта:

формальный: «глубина как в плавательном бассейне» (наличие множества последовательных слоев);
содержательный: «глубина как способность к постижению сути и внутреннему пониманию».

Точкой отсчета современной эры стал конкурс ImageNet, созданный Фэй-Фэй Ли на основе семантического дерева WordNet (более 14 миллионов размеченных вручную изображений). В 2012 году сеть AlexNet (Алекс Крижевский, Илья Суцкевер и Джеффри Хинтон) с 8 обучаемыми слоями разгромила конкурентов, положив начало триумфу глубоких сетей. За ней последовали 16-слойная VGG16 (Оксфорд, 2014) и сеть Y8 (Джейсон Йосински, 2015), снабженная визуализатором внутренних состояний.

Эксперимент с визуализацией признаков в сети Y8

Чтобы понять, о чем «думает» глубокая сеть, МакКормик использует метод визуализации Йосински: сканирует обучающий набор данных и находит паттерны, вызывающие максимальную активацию конкретного нейрона. Затем эти нейроны тестируются на контрольном изображении — бронзовой статуе доктора Бенджамина Раша (просветителя, основателя колледжа Дикинсон и одного из отцов-основателей США):

Слой 1 (низкоуровневые геометрические паттерны): Нейроны реагируют на простые полосы, штрихи и границы контраста. Например, признак 16 активируется диагональной границей «светлое снизу, темное сверху» (на статуе Раша он ярко вспыхивает на лацкане кафтана, где белый снег граничит с темной бронзой). Признак 85 реагирует на горизонтальные полосы.
Слой 2 (промежуточные формы): За счет объединения паттернов и субдискретизации (max-pooling) рецептивное поле вырастает с 11×11 до 47×47 пикселей. Признак 103 активируется плавными дугами и изгибами (на статуе — воротник), а признак 104 — замкнутыми светлыми окружностями (на статуе ярко загорается глазница Раша).
Слой 5 (высокоуровневые концепции): На этом уровне возникают поразительные абстракции. Признак 151 оказывается специализированным нейроном человеческого лица — он мощно реагирует исключительно на лицо статуи Раша. Признак 38 специализируется на мордах вислоухих собак (спаниелей, гончих), а признак 79 — на остроухих мордах (лисиц, овчарок).
Слой 8 (выходной): 1000 нейронов, каждый из которых отвечает за итоговую категорию ImageNet (катамаран, тачка, вилочный погрузчик).

Неразмеченное самозарождение понятий (Unsupervised Feature Discovery)

Ключевой философский вывод восьмой главы: сеть никто не учил концепциям человеческого лица, собачьих ушей, колес или окон. В датасете ImageNet не было меток «глаз», «ухо» или «лицо» — сеть обучалась лишь отличать категории вроде «докторский балахон», «ковбойская шляпа» или «бладхаунд».

Чтобы научиться распознавать ковбойскую шляпу или академическую мантию, сеть в ходе стохастического градиентного спуска самостоятельно изобрела промежуточное понятие «человеческое лицо», поскольку шляпы и мантии на фотографиях почти всегда соседствуют с лицами.

Это фундаментальный пример эмерджентного ИИ: осмысленные абстрактные категории спонтанно кристаллизуются из числовых матриц в процессе оптимизации.

Параллели с нейробиологией зрения

МакКормик указывает на прямую эволюционную конвергенцию:

В конце 1950-х Дэвид Хьюбел и Торстен Визель получили Нобелевскую премию, доказав, что в зрительной коре кошек ($V1$) отдельные нейроны реагируют на ориентацию отрезков и контрастные границы — в точности как 1-й слой сверточных сетей.
В сетчатке млекопитающих обнаружено около 20 типов функциональных клеток-детекторов, формирующих геометрические мозаики.
В высших отделах коры человека открыты инвариантные нейроны концептов — вплоть до знаменитого «нейрона Дженнифер Энистон», активирующегося на любые фотографии или имя актрисы независимо от ракурса.

Теневая сторона: предвзятость (Bias) и уязвимость

Глубокие сети наследуют скрытые пороки обучающих данных. МакКормик приводит факты:

Исследование Латаньи Суини показало, что поисковые алгоритмы выдавали дискриминационную рекламу с намеками на уголовные аресты для типично афроамериканских имен.
Работа Джой Буоламвини (Gender Shades, поэма «AI, Ain’t I a Woman?») вскрыла системную слепоту коммерческих систем распознавания лиц, ошибавшихся на темнокожих женщинах в разы чаще, чем на светлокожих мужчинах.
Хрупкость (Brittleness): минимальные состязательные возмущения (adversarial perturbations) величиной в пару незаметных пикселей способны заставить мощнейшую сеть с уверенностью принять панду за гиббона.

Глава 9. Обучение с подкреплением и творчество AlphaGo (Reinforcement Learning and the Creativity of AlphaGo)

Глава открывается афоризмом Ричарда Саттона из его знаменитого манифеста «Горький урок» (2019): истинное содержание разума неизмеримо и безнадежно сложно, поэтому попытки вручную заложить человеческие эвристики в код уступают методам вычислений и масштабного поиска. Вместе с глубокими сетями обучение с подкреплением (Reinforcement Learning, RL) образовало второй фундаментальный столп современной революции искусственного интеллекта.

Базовые принципы RL и алгоритм обучения на игре Ним

В чистом виде обучение с подкреплением не требует нейронных сетей. МакКормик объясняет его механику на примере математической игры Ним с шестью камнями (шестикамневый Ним). В этой игре двое участников по очереди берут камни из трех кучек, а проигрывает тот, кто забирает последний камень.

Все возможные состояния игры (обозначаемые от начального $A$ до финального проигрышного $Z$) можно строго проанализировать логически:

Финальное состояние $Z(0, 0, 1)$ по определению является проигрышным (значение выигрыша 0.0).
Состояния $F$, $G$ и $H$, из которых можно одним ходом перевести соперника в $Z$, гарантируют победу текущему игроку (значение 1.0).
Состояния $D$ и $E$ ведут только в выигрышные для соперника позиции, поэтому они неизбежно проигрышны.

Однако суть RL состоит не в ручном логическом переборе, а в способности алгоритма самостоятельно приблизительно оценивать функцию ценности (value function) методом проб и ошибок. МакКормик детально описывает алгоритм обучения ценности на основе обновлений по временным различиям (temporal difference updates):

Конечное состояние $Z$ инициализируется точным значением 0.0, а всем промежуточным состояниям присваивается нейтральная начальная оценка 0.5.
Программа симулирует тысячи партий сама с собой.
На каждом шаге значение текущего состояния корректируется в сторону ценности следующего состояния с учетом коэффициента шага (step size = 20%). Например, при переходе из $H(0.5)$ в $Z(1.0)$ для соперника оценка состояния $H$ сдвигается на 20% от разницы и возрастает до 0.6.
Постепенно, по цепочке от финального состояния $Z$ назад к старту, система стабилизирует точные оценки всех позиций. Через 300 симулированных партий расчетная таблица полностью совпадает с теоретическим решением.

Ключевой инженерный вызов алгоритма — баланс между эксплуатацией текущих знаний (current-best move) и исследованием нового (exploratory move). Если программа будет всегда выбирать текущий лучший ход, она застрянет в локальных субоптимальных решениях из-за неточности ранних оценок. Поэтому вводится вероятность исследования (exploration probability = 50%), заставляющая систему периодически совершать случайные пробные ходы.

Триумф AlphaGo: прорыв в древней игре

В 2015 году лаборатория DeepMind продемонстрировала глубокую Q-сеть (DQN), которая научилась играть в видеоигры Atari (включая самостоятельное открытие стратегии «пробивания туннеля» в игре Breakout). Но весной 2016 года команда Демиса Хассабиса решила задачу, считавшуюся недостижимой для компьютеров еще на десятилетия вперед — игру Го.

На доске 19×19 число возможных ходов достигает 361, а среднее число доступных вариантов на каждом шаге превышает 200 (против примерно 35 в шахматах). Простой перебор вариантов здесь невозможен.

Архитектура системы AlphaGo объединила поиск по дереву с двумя глубокими сетями: сетью стратегий (policy network) и сетью ценности (value network). Сеть ценности состояла из 15 слоев (12 сверточных и один полносвязный) и принимала на вход 48 плоскостей признаков (feature planes), кодировавших не только положение камней, но и базовые тактические свойства (степени свободы, захваты).

Обучение исходной версии AlphaGo проходило в два этапа:

Обучение с учителем (Supervised Learning): сеть обучили имитировать ходы людей-мастеров на базе 30 миллионов позиций из онлайн-партий.
Обучение с подкреплением (Reinforcement Learning): дообучение в миллионах партий против собственных копий.

В марте 2016 года AlphaGo разгромила легендарного чемпиона Ли Седоля со счетом 4:1. Главной сенсацией стал ход 37 во второй партии. Вопреки тысячелетней традиции Го выставлять начальные камни на третью или четвертую линию от края доски, программа неожиданно поставила камень на пятую линию. Как позже пояснил Дэвид Сильвер из DeepMind, по собственной оценке AlphaGo, вероятность того, что живой мастер сделает такой ход, составляла менее 1 к 10 000. Программа совершила парадоксальный ход, обнаружив его скрытую стратегическую силу в ходе самостоятельных тренировок. МакКормик квалифицирует этот ход как проявление эмерджентного творчества.

AlphaGo Zero: обучение с чистого листа (Tabula Rasa)

В октябре 2017 года DeepMind опубликовала в журнале Nature описание системы AlphaGo Zero, созданной без опоры на человеческие партии. Программе сообщили исключительно правила игры.

AlphaGo Zero получила остаточную сеть (ResNet) глубиной более 80 слоев со сквозными связями для быстрого обучения, а на вход подавались только координаты камней за последние несколько ходов и индикатор очередности. В матче из 100 партий AlphaGo Zero всухую разгромила победившую Ли Седоля версию AlphaGo со счетом 100:0.

Прослеживая динамику обучения прототипа AlphaGo Zero за 3 дня (5 миллионов партий), исследователи зафиксировали поразительную эволюцию:

3 часа: уровень бессистемного новичка, стремящегося лишь немедленно съесть соседний камень.
10 часов: спонтанное открытие классической профессиональной связки ходов (дзёсэки / jōseki) — «надавливание в точку 5-3».
20 часов: освоение сложнейшего дзёсэки «малая лавина».
47 часов: освоение традиционного дзёсэки «вторжение 3-3», а затем изобретение новой, ранее неизвестной человечеству вариации этого приема.

Авторы доказали неожиданный факт: обучение с чистого листа (путь 3) приводит к более высокому уровню мастерства, чем инициализация на партиях людей (путь 2). Человеческий опыт выступает своеобразной ловушкой, сковывающей поиск оптимальных стратегий рамками предвзятых шаблонов.

Биологические параллели: дофамин и temporal difference

МакКормик указывает на прямую параллель между алгоритмами временных различий и нейробиологией. В 1990-х годах Вольфрам Шульц и его коллеги изучали активность дофаминовых нейронов у обезьян, обучавшихся нажимать рычаг по сигналу лампочки ради капли лимонного сока.

В процессе освоения навыка дофаминовые нейроны интенсивно активировались в момент получения награды.
Когда навык был закреплен и ожидание полностью сформировалось, всплеск дофамина на саму награду исчезал — сигнал смещался на предваряющий стимул (свет лампочки).

Дофамин в синапсах млекопитающих выступает биологическим вестником ошибки предсказания награды (reward prediction error), выполняя в живом мозге функцию, математически тождественную обновлениям временных различий в формулах Саттона.

Глава 10. Генеративный ИИ: беспрецедентный масштаб, поразительная простота (Generative AI: Unprecedented Scale, Surprising Simplicity)

Эпиграфом к главе служат пронзительные строки Т. С. Элиота из драмы «Камень» (1934): «Где мудрость, потерянная нами в знании? Где знание, потерянное в информации?».

В отличие от аналитических систем прошлого, классифицирующих объекты, генеративный ИИ создает принципиально новый контент в заданном стиле. Аббревиатура GPT расшифровывается как:

G (Generative): генерация наиболее вероятного продолжения текста;
P (Pre-trained): предварительное обучение на гигантском массиве неразмеченных текстов с последующей донастройкой;
T (Transformer): нейросетевая архитектура, трансформирующая текст через вычисление матриц внимания.

«Трюк со следующим словом» (The Next-Word Trick)

Вся работа больших языковых моделей опирается на последовательное решение одной задачи: по имеющемуся контексту предсказать следующий токен.

Текст дробится на токены — типовые слова, корни, суффиксы или символы. Словарь модели GPT-3.5 насчитывает порядка 100 000 токенов. Цикл генерации управляется базовой программой NEXTTOKEN.

МакКормик рассматривает модельный запрос: «State three rhyming words related to flowers».

Программа принимает исходный текст с техническим маркером <EndPrompt> и выдает токен bloom.
Слово bloom дописывается во входной контекст; программа запускается снова и генерирует токен gloom.
Контекст снова расширяется, и программа выдает perfume.
На четвертом шаге контекст содержит исходный запрос и три сгенерированных слова; модель с вероятностью 99% предсказывает сервисный маркер <EndReply>, сигнализирующий об окончании ответа.

Нейросеть GPT-3.5 работает с окном контекста около 4 000 позиций. При словаре в 100 000 единиц входной слой насчитывает до 400 миллионов входных нейронов. Выходной слой содержит ровно 100 000 нейронов, значения которых соответствуют вероятностям каждого токена словаря. При фразе «These apples are...» нейроны для слов delicious (62%) и ripe (31%) выдают максимальные значения, тогда как слова climb или book получают вероятности, близкие к абсолютному нулю.

Механизм внимания (Masked Self-Attention)

Решающий вклад в успех трансформеров внесла статья исследователей Google 2017 года «Attention Is All You Need».

В языковых моделях используется маскированное самовнимание (masked self-attention), позволяющее каждому новому токену оценивать степень своей семантической связанности со всеми предшествующими словами. МакКормик анализирует реальные веса внимания в нейросетевых цепях:

При обработке слова flowers в запросе выделенная цепь внимания присваивает максимальный вес слову related (24%) и самому токену flowers (22%).
При вычислении токена, следующего за bloom, другая цепь активирует связь со словом rhyming (27%) и словом bloom (13%).

В результате сеть не просто механически угадывает буквы: тысячи параллельных головок внимания координируют контекст, вынуждая систему удерживать смысловые связки понятий.

Феномен цепочки рассуждений (Chain of Thought)

При прямом ответе на арифметический пример Чему равно 8385 + 2477 + 9241? базовые модели галлюцинируют правдоподобный, но неверный результат (например, 19103 вместо 20 103). Однако добавление системной инструкции «Думай пошагово и записывай промежуточные вычисления» (chain-of-thought prompting) кардинально меняет результат: сеть последовательно вычисляет промежуточную сумму 10862, затем прибавляет третье число и выдает точный итог 20103.

В этом процессе автор видит функциональный аналог внутреннего монолога человека, разбивающего комплексную задачу на серию логических шагов.

Сила масштаба: от GPT-1 до мозга

Прогресс больших моделей определило экспоненциальное наращивание параметров:

GPT-1 (2018): 117 миллионов параметров;
GPT-2 (2019): 1.5 миллиарда параметров (рост в 10 раз);
GPT-3 (2022): 175 миллиардов параметров (рост более чем в 1000 раз за 4 года);
GPT-4: порядка 1.8 триллиона параметров по экспертным оценкам.

Число связей в коре человеческого мозга оценивается сотнями триллионов. Хотя современные модели все еще уступают человеческому мозгу по общему числу синаптических соединений, разрыв стремительно сокращается.

Глава 11. Побег из Китайской комнаты (Escape from the Chinese Room)

Эпиграфом служит цитата философа Маргарет Боден (1988): если вас озадачивает природа интенциональности, никто не восклицает: «Натрий — ну конечно же!»; натриевые насосы живых клеток не менее абсурдны в качестве источника мысли, чем кремниевые чипы.

Аргумент Джона Сёрла

В 1980 году философ Джон Сёрл опубликовал статью «Разум, мозг и программы», направленную против концепции сильного ИИ (Strong AI). Сёрл сформулировал знаменитый мысленный эксперимент:

В закрытой комнате находится англоговорящий человек, не знающий ни слова по-китайски.
Снаружи экспериментаторы передают под дверь листы бумаги с иероглифами.
В комнате есть полная книга инструкций на английском языке: «Если на входе цепочка иероглифов X, найди в тексте символ Y и выдай наружу символы Z».
Следуя правилам, человек возвращает безупречные ответы на китайском.

Сёрл утверждает: снаружи кажется, что человек в комнате понимает китайский, но внутри нет ни капли понимания — лишь слепое манипулирование формальными символами. Следовательно, синтаксис не тождественен семантике, и никакая цифровая программа в принципе не способна обладать подлинным пониманием.

Статья вызвала ожесточенную полемику в журнале Behavioral and Brain Sciences с участием 27 ведущих ученых мира. Сёрл отстаивал свою позицию и в 2011 году, заявив в Wall Street Journal: суперкомпьютер Watson победил в Jeopardy!, но не понимал ни единого вопроса, ни того, что он выиграл.

Демонтаж аргумента: сценарий «Китайской компьютерной комнаты»

МакКормик предлагает последовательный анализ слабостей аргументации Сёрла:

1. Иллюзия интуитивного насоса (Intuition Pump):
Философ Дэниел Деннет показал, что мысленный эксперимент Сёрла работает как «насос интуиции». Образ уставшего клерка, механически листающего бумажные талмуды, подменяет суть проблемы: медлительность процесса ошибочно воспринимается человеком как доказательство отсутствия разума.

2. Системный ответ (The Berkeley Systems Reply):
Человек внутри комнаты действительно не знает китайского языка. Но пониманием обладает система как единое целое, включающая правила, память, структуру данных и сам механизм обработки.

3. Компьютеризация комнаты:
Представим, что человеку выдали компьютер с программой симуляции мозга $S$ и камерой оптического распознавания текста. Человек просто подносит китайские листы к объективу камеры и отправляет распечатанный ответ наружу. В этой конфигурации фигура человека становится полностью избыточной — мы возвращаемся к прямому тесту Тьюринга.

Если программа $S$ моделирует нейробиологические процессы мозга носителя китайского языка, отрицать наличие понимания у программы означает впадать в мистический витализм. На микроуровне отдельный нейрон или транзистор слепо перекачивает ионы и электроны, не обладая мыслями.

Итоговый вывод автора: если программа способна безупречно эмулировать человеческое понимание языка и ее архитектура допускает возникновение эмерджентности (как в глубоких сетях или симуляциях мозга), то позиция эмерджентизма полностью оправдана — такая система действительно обладает машинным пониманием.

Глава 12. Полет и жизнь: две аналогии для осмысления искусственного интеллекта (Flight and Life: Two Analogies for Thinking About Artificial Intelligence)

Главу открывают знаменитые строки из романа Мэри Шелли «Франкенштейн, или Современный Прометей» (1818): «В тревоге, граничившей с агонией, я собрал вокруг себя инструменты жизни, чтобы вдохнуть искру бытия в безжизненную тварь, лежавшую у моих ног».

Историки науки давно подметили любопытную закономерность: как только вычислительная система решает очередную сложнейшую интеллектуальную задачу, общество тут же меняет критерии интеллекта. До 1990-х годов победа над чемпионом мира по шахматам считалась безоговорочным признаком наличия разума. Но когда в 1997 году суперкомпьютер Deep Blue победил Гарри Каспарова, критики немедленно заявили, что это «всего лишь слепой перебор и механические вычисления, не имеющие отношения к подлинному мышлению».

Чтобы преодолеть эту психологическую предвзятость, МакКормик временно откладывает базовый вопрос «Может ли машина мыслить?» и рассматривает две исторические аналогии из естествознания: «Может ли машина летать?» и «Может ли машина быть живой?».

Аналогия 1: Искусственный полет

Представим, что в 1200 году н.э. жителю средневековой Европы или Китая задали вопрос: может ли машина летать?

Если под полетом понимать вращение бамбукового пропеллера на палочке (bamboo-copter, детская игрушка, известная в Китае с IV века), ответ был бы очевиден: да, простые механизмы способны взлетать.
Но если собеседник настаивал на природном эталоне — машущих крыльях птиц и летучих мышей, задача казалась принципиально невыполнимой.

В середине XX века появились самолеты и вертолеты. Они летают без человека-пилота (на автопилоте), однако используют жесткое неподвижное крыло либо несущий винт. С точки зрения сторонника «птичьего полета», самолет — это обман («читерство»), ведь он не машет крыльями. Тем не менее сегодня ни у кого не возникает сомнений в том, что самолеты по-настоящему летают.

Аналогия с искусственным интеллектом здесь прямая: достижение цели принципиально иным, отличным от биологического методом не обесценивает сам результат. Компьютер перемножает десятизначные числа иначе, чем человек, и играет в шахматы и го на иных внутренних принципах, но это не отменяет факта совершения интеллектуального акта. Более того, создание механического орнитоптера, слепо копирующего взмахи перьев, не обогатило бы физику так, как открытие законов аэродинамики и подъемной силы при создании самолетов.

Аналогия 2: Искусственная жизнь и закат витализма

В биологии до сих пор нет абсолютного строгого определения жизни. В школьных учебниках часто используют мнемоническое правило MRS GREN (Movement, Respiration, Sensing, Growth, Reproduction, Excretion, Nutrition — движение, дыхание, чувствительность, рост, размножение, выделение, питание), но у любого правила есть исключения.

На протяжении тысячелетий доминировала концепция витализма — вера в то, что живая материя фундаментально отличается от неживой наличием особой трансцендентной субстанции: «жизненной силы» или «искры бытия» (élan vital).

Первый удар по витализму: В 1828 году немецкий химик Фридрих Вёлер впервые синтезировал органическое вещество — мочевину — из неорганического цианата аммония. Исчезла непреодолимая пропасть между органической и неорганической химией.
Механистический взгляд: Еще в 1637 году Рене Декарт утверждал в «Рассуждении о методе», что животные представляют собой чисто механические автоматы.
Эрвин Шрёдингер: В книге 1944 года «Что такое жизнь с точки зрения физики?» великий физик предсказал, что генетическая информация должна храниться в сложных «апериодических кристаллах» на микроскопическом уровне молекул.
Современная молекулярная биология: В XXI веке витализм полностью лишился научной почвы. Каждая клетка нашего тела наполнена сложнейшими наномашинами:

Рибосома (Нобелевские премии 1974 и 2009 годов) работает как молекулярный сборочный конвейер: она принимает матричную РНК, считывает триплеты нуклеотидов и механически присоединяет аминокислоты к белковой цепи.
Ученые синтезируют искусственные молекулярные моторы, пропеллеры и наномашины (Нобелевская премия по химии 2016 года).

Жизнь в кремнии: Game of Life и Lenia

МакКормик обращается к области искусственной жизни (Artificial Life):

«Игра Жизнь» Джона Конвея (1970): Клеточный автомат на двухмерной сетке, где состояние ячейки (жива/мертва) определяется всего тремя элементарными правилами взаимодействия с восемью соседями. Из этих примитивных правил эмерджентно рождаются сложнейшие устойчивые структуры, способные к целенаправленному движению, взаимодействию и самовоспроизведению (глайдеры, «рефлектор Буджума», фабрики объектов).
Lenia Берта Чана (2019): Непрерывный математический аналог игры Конвея (от латинского lenis — гладкий). Пространство и шкала состояний клеток непрерывны (от 0 до 1). В Lenia спонтанно кристаллизуются динамические структуры, визуально и кинематически неотличимые от микроскопических живых организмов — радиолярий, трилобитов, делящихся клеток и плавающих инфузорий.

Философский вывод: неизбежный закат «мистики сознания»

Все эти примеры доказывают четвертое проявление эмерджентности: колоссальная системная сложность естественным образом рождается из взаимодействия простейших элементов.

Как только химические и физические механизмы живой клетки были раскрыты, мистика витализма растаяла. МакКормик делает смелый вывод: точно такая же судьба ожидает и мистику сознания, интроспекции и человеческого разума. По мере того как когнитивные науки и теория нейросетей расшифровывают механизмы обработки информации, трансцендентный ореол вокруг мышления неизбежно рассеется.

Глава 13. Уникален ли человек? (Uniquely Human?)

Эпиграф главы принадлежит нейробиологу Вилейануру Рамачандрану (лекции BBC Reith, 2003): «Мы не ангелы, мы всего лишь высокоразвитые обезьяны. Но мы чувствуем себя ангелами, запертыми внутри тел зверей, жаждущими трансцендентности и постоянно пытающимися расправить крылья и улететь».

Человеческая культура традиционно помещает человека на пьедестал космической иерархии — в рамках так называемой «великой цепи бытия». Интеллектуальный ИИ бросает вызов этому представлению. Автор формулирует два фундаментальных вопроса о человеческой исключительности:

Различие «человек — животное»: Существует ли категориальный, качественный разрыв между разумом человека и психикой высших животных (шимпанзе, дельфинов, слонов)?
Различие «человек — компьютер»: Существует ли качественный разрыв между биологическим мозгом и компьютерными программами, делающий полную эмуляцию мышления принципиально невозможной?

Три философии познания

МакКормик сопоставляет три ключевые философские позиции (Таблица 13.1 и Рисунок 13.1):

Философская школа

Статус разума человека

Животные

Компьютерные программы

Ответы на вопросы

Дуализм (Рене Декарт)

Нематериальная субстанция (душа/разум), подчиняющаяся нефизическим законам.

Автоматы, подчиняющиеся законам механики.

Механические автоматы; не способны к разуму.

«Человек-животное»: Да«Человек-компьютер»: Да

Биологический натурализм (Джон Сёрл)

Порождается физическим мозгом; обладает истинной интенциональностью.

Биологические системы с родственным типом психики.

Манипуляция символами без понимания; не могут мыслить.

«Человек-животное»: Нет«Человек-компьютер»: Да

Вычислительный материализм (Computationalism)

Процессы мозга функционально эквивалентны компьютерным вычислениям.

Обладают тем же стилем обработки данных разной сложности.

Способны эмулировать любые аспекты мышления через эмерджентность.

«Человек-животное»: Нет«Человек-компьютер»: Нет

Почему дуализм и биологический натурализм несостоятельны?

Против дуализма свидетельствует эволюционный континуум: Разум не возник внезапно как божественный дар. Существует непрерывная эволюционная шкала усложнения нервных систем — от базовой хеморецепции одноклеточных («базальное познание») через рефлексы насекомых и развитую психику млекопитающих к абстрактному мышлению человека. Более того, по многим сенсорным параметрам животные превосходят нас: раки-богомолы и птицы обладают гораздо более богатым цветовым зрением; зрение мухи фиксирует движение со скоростью 1000 кадров в секунду (против 20 кадров у человека); обоняние собаки несопоставимо острее человеческого. Разум — лишь одно из адаптивных измерений этой непрерывной шкалы.
Против биологического натурализма свидетельствует природа интенциональности: Сёрл утверждает, что состояния биологического мозга обладают свойством быть о чем-то во внешнем мире (intentionality / интенциональность), а регистры кремниевого чипа лишены смысла. Но МакКормик возражает: единичный электрический спайк биологического нейрона так же лишен смысла, как единичный бит оперативной памяти. Интенциональность биологического мозга — это эмерджентное системное свойство. Следовательно, если компьютерная сеть воспроизводит аналогичные конфигурации связей, в ней возникает полноценная эмерджентная интенциональность (emergent intentionality).

«Воплощенный мозг» (The Body-Minded Brain), эмоции и боль

Критики компьютационализма часто указывают на концепцию воплощенного познания (embodied cognition): мозг не существует изолированно, он неразрывно связан с физическим телом.

МакКормик опирается на работы нейробиолога Антонио Дамасио («Ошибка Декарта») и его понятие «телесно-ориентированного мозга» (body-minded brain). Мозг непрерывно картирует химическое состояние крови, натяжение мышц, работу внутренних органов, порождая эмоции (гнев, радость) и телесные ощущения (боль, наслаждение) [203–205].

Мысленный эксперимент с «мозгом в колбе» (brain in a vat) или виртуальным миром «Матрицы» доказывает, что при идеальной эмуляции нервных сигналов все эти состояния воспроизводимы. Однако автор занимает плюралистическую позицию:

Для решения задач познания, понимания, логики и творчества эмуляции нейронных сетей вполне достаточно.
Моделировать телесную боль, страх или голод внутри бесплотной серверной программы бессмысленно и непродуктивно. Эмоции и телесные аффекты важны для выживания биологического тела в физическом мире, но мышление и понимание абстрактных истин могут полноценно функционировать в кремнии и без телесной боли.

Осознанность (Conscious Awareness) и «Внутренний монолог»

Разбирая проблему сознания, автор разграничивает туманные определения и фокусируется на осознанности (conscious awareness): способности системы воспринимать себя и отслеживать ход собственных мыслительных процессов.

Нейробиолог Станислас Деэн («Сознание и мозг») показал, что осознанность дает эволюционные преимущества: она обеспечивает удержание рабочей памяти, последовательное пошаговое исполнение сложных алгоритмов и социальный обмен данными.
Внедрение в большие языковые модели режима цепочки рассуждений (chain of thought), когда система перед финальным ответом генерирует внутренний шаг за шагом проверяемый контекст, выступает первой инженерной искрой искусственной осознанности.
Аналогично, автопилот беспилотного автомобиля, непрерывно сводящий воедино потоки от лидаров, радаров, камер и GPS в единую динамическую карту обстановки, демонстрирует функциональный эквивалент синтезирующего сознания.

Компьютационализм, религия и смысл жизни

Означает ли признание машинной природы разума обесценивание человеческой жизни и духовности? Автор категорически не согласен:

Компьютационализм утверждает материалистическую природу мозга, но не отрицает правомерность духовного или религиозного опыта человека. Физика может досконально описать кинематику балетного танца или математический спектр звуковых волн симфонии, но это научное знание ни на йоту не умаляет эстетического восторга зрителя в театре.
Человек обладает уникальной способностью переживать «возвышенные состояния» (elevated states): любовь, дружбу, сострадание, чувство юмора, религиозный трепет, восторг перед красотой и культурой. Даже если в будущем искусственный разум научится безупречно воспроизводить эти состояния, они не утратят своей ценности для человеческого бытия.

История науки доказывает способность человечества преодолевать подобные психологические кризисы:

Изобретение фотографии не уничтожило живопись;
Коперниканская гелиоцентрическая революция не разрушила человеческую культуру;
Компьютерные видеоигры не уничтожили настольные игры.

Появление мыслящего ИИ станет мощным дополнением и зеркалом нашей культуры, но не лишит человеческую жизнь ее глубинного смысла.

Глава 14. Заключение: Эмерджентный ИИ, живое человечество (Conclusion: AI Emergent, Humans Alive)

Заключительная глава подводит итог масштабному исследованию. Ее предваряют две цитаты:

Философ Айрис Мёрдок («Суверенитет добра», 1967): «Подобные трансформации представляют собой случаи, когда мы видим порядок мира в свете Блага и возвращаемся к истинным представлениям о том, что ранее понимали превратно».
Чарльз Дарвин («Происхождение видов», 1859): «Есть величие в этом воззрении на жизнь с ее различными силами, изначально вдохнутыми в несколько форм или в одну... и в том, что, пока наша планета совершала свои кругообороты согласно неизменным законам тяготения, из столь простого начала возникли и продолжают возникать бесконечные формы, прекраснейшие и удивительнейшие».

Итоговая система: Пять когнитивных категорий эмерджентного ИИ

Автор сводит все технические доказательства книги в сводную систему пяти категорий эмерджентного ИИ (Таблица 14.1):

№

Когнитивная категория

Архитектурная реализация в ИИ

Биологический / когнитивный аналог

Эмерджентное мышление (Emergent thinking)

Функциональная симуляция коннектома мозга (Гл. 5); глубокие нейросети (Гл. 8–10).

Высокоуровневые когнитивные функции, рождающиеся из сетей нейронов.

Эмерджентное обучение (Emergent learning)

Правило обучения Хебба в искусственных нейросетях (Гл. 6).

Синаптическая пластичность и долговременная потенциация (LTP).

Эмерджентное распознавание (Emergent recognition)

Спонтанное формирование понятийных нейронов в сверточных сетях (Гл. 8).

Иерархические детекторы зрительной коры и «нейроны концептов».

Эмерджентное творчество (Emergent creativity)

Самостоятельное открытие дзёсэки и парадоксальных ходов в AlphaGo Zero (Гл. 9).

Стратегическая интуиция и инновационное мышление гроссмейстера.

Эмерджентное понимание (Emergent understanding)

Механизмы многоголового внимания (self-attention) в трансформерах (Гл. 10).

Способность удерживать семантические контексты и ассоциативные смыслы.

Четыре неэмерджентных сходства между ИИ и мозгом

Помимо эмерджентности, МакКормик выделяет четыре фундаментальных инженерных принципа, независимо реализованных как в мозге человека, так и в архитектурах ИИ:

Система 1 и Система 2: Быстрая бессознательная генерация гипотез и медленная критическая верификация (в Watson и современных LLM).
Сверточная обработка: Локальность рецептивных полей, разреженность соединений и разделение параметров между слоями (сетчатка млекопитающих и convnets).
Обучение с подкреплением через ошибку предсказания: Дофаминовые сигналы синапсов млекопитающих математически эквивалентны обновлениям временных различий (temporal difference).
Пошаговое рассуждение (Chain of thought): Внутренний монолог языковой модели выполняет ту же роль упорядочивания логики, что и сознательное рассуждение человека.

Финальный вердикт Джона МакКормика

Взвесив технические, нейробиологические и философские аргументы, автор формулирует итоговое заключение:

Компьютерные программы могут мыслить: Отказ признавать за машинами способность к мышлению опирается на устаревшие предрассудки, сродни витализму прошлого. На макроскопическом уровне эмерджентный ИИ демонстрирует подлинные свойства человекоподобного разума, творчества и понимания.
Человечество не теряет своей ценности: Осознание того, что мозг является материальной вычислительной системой, а мышление подчиняется физическим законам, не обесценивает любовь, культуру, искусство и гуманизм.

Книга завершается мыслью о колоссальной социальной ответственности: поскольку искусственный интеллект способен воспроизводить любые аспекты человеческого мышления, общество обязано сделать так, чтобы машины эмулировали лучшие проявления нашего разума — справедливость, сострадание, мудрость и стремление к истине.

Вслед за Чарльзом Дарвином, видевшим величие в бесконечном многообразии биологических форм, МакКормик заключает: есть подлинное величие в том, что из простейших кремниевых переключателей и элементарных математических правил возникают и продолжают развиваться новые, удивительные и прекрасные формы искусственного разума.

О проекте Summarizator

Summarizator — это Telegram-канал, где мы собираем саммари самых актуальных и захватывающих книг об ИИ, технологиях, саморазвитии и культовой фантастике. Мы экономим ваше время, помогая быстро погружаться в новые идеи и находить инсайты, которые могут изменить ваш взгляд на мир. 📢 Присоединяйтесь: https://t.me/summarizator