Мы пересекли черту во сне. Объясняю, почему ИИ — это конец 4 миллиардов лет привычной эволюции
Манифест о том, как исчезает разделение между железом, программой, ИИ и человеком - и почему происходящее не технологическая революция, а эволюционное событие, к которому биосфера не готовила ни право, ни экономику, ни самого человека.
Прочитал «Манифест созидателя» Гордейчика. Он про кибербезопасность - про то, что код обесценился, что агенты переписывают индустрию, что средний менеджмент уже труп, просто ещё не оформлен. С отдельными выводами можно спорить, но диагноз в целом точный: это портрет одной отрасли в момент слома.
Но я хочу написать про другое. Не про то, как меняется конкретная индустрия. Про то, как меняется реальность. Буквально. Граница между железом, программным обеспечением, искусственным интеллектом и человеком не просто размывается - она перестаёт объяснять главное. Она была не ложью, а временной инженерной привычкой. Работала, пока машина была инструментом, программа - инструкцией, человек - единственным субъектом. Теперь эта схема не держится. Граница между реальным и виртуальным тоже оказывается не стеной, а привычкой языка. А то, что мы называем «внедрением ИИ» - это не технологическая революция по типу паровой машины или интернета. Это первое за четыре миллиарда лет изменение скорости и масштаба эволюционного процесса: разум начинает проектировать разум быстрее, чем естественный отбор успевает проверять варианты.
Граница как инженерная привычка
Простой вопрос, который почему-то редко задают вслух: в чём разница между нейроном и транзистором?
Нейрон - специализированная живая клетка с мембраной, ионными каналами и синапсами. Она меняет электрохимический потенциал и передаёт сигнал дальше по цепочке. Транзистор - кремниевый кристалл с легированными полупроводниковыми переходами. Он меняет электрический потенциал и передаёт сигнал дальше по схеме. Они не одинаковы: нейрон интегрирует входящие сигналы в живой электрохимической среде и участвует в синаптической пластичности, транзистор проще. Но оба меняют состояние под действием входного сигнала и участвуют в передаче информации. И оба показывают одну неприятную вещь: обработка информации не принадлежит одному привилегированному материалу.
Шеннон в 1948 году показал, что количество информации описывается независимо от конкретного физического носителя. Это не тезис о смысле - это математически точное утверждение про измеримые свойства сигнала. Поэтому информационный процесс не обязан принадлежать одному носителю. Паттерн, реализованный в кремнии, и паттерн, реализованный в белке, могут нести одинаковое количество информации и выполнять одинаковую функцию. Субстрат важен. Но он не монополизирует саму функцию.
Посмотрим, как это работает по слоям.
Граница «железо - программа» давно перестала быть чёткой. Современные процессоры содержат микрокод - программы, зашитые в кремний на этапе производства. FPGA перестраивает физическую топологию схем под конкретную задачу. Нейроморфные чипы Intel Loihi реализуют спайковую динамику и синаптическую пластичность прямо в аппаратуре. Одной чистой границы уже нет.
С границей «программа - ИИ» то же самое. ИИ тоже программа. Нейронная сеть - математические функции в коде, умножение матриц на ускорителях вычислений. Различие не в природе, а в способе получения поведения: параметры не задаются вручную, а выводятся из данных через алгоритм оптимизации. Но сам этот алгоритм - тоже программа. Граница здесь не онтологическая. Это различие в методе, а не в сущности.
Граница «ИИ - человек». Здесь обычно вытаскивают аргументы про сознание, субъективность, квалиа. Честная позиция: мы не знаем, что такое сознание. Нет общепринятого определения и нет способа его измерить. Интегрированная теория информации Тонони предлагает числовой критерий - Phi как меру интегрированности информационных процессов в системе. Это дискуссионная гипотеза, вокруг которой среди нейроучёных нет консенсуса. Но сам факт, что учёные пытаются описывать сознание количественно, уже говорит о чём-то важном: эта граница оспоримее, чем принято считать. И оспаривают её не любители фантастики, а исследовательские программы в ведущих университетах мира.
Три разрыва - железо/программа, программа/ИИ, ИИ/человек - были практически полезными, пока системы достаточно различались по роли, скорости и автономности. Сейчас они перестали объяснять главное: где принимается решение и кто за него отвечает.
Реальность как интерфейс
Теперь про реальное и виртуальное.
«Стол реален, персонаж в игре - нет» - интуитивно понятно и физически неточно. Стол - атомы, атомы - почти пустое пространство с электронными облаками, «твёрдость» - электромагнитное отталкивание между этими облаками. Вы не касаетесь стола. Ваши атомы отталкиваются от его атомов, нервные окончания регистрируют деформацию, мозг интерпретирует это как «твёрдое». Вся тактильная реальность - это интерпретация сигналов, а не прямой контакт с вещами-в-себе.
Персонаж в игре - числа в оперативной памяти, обрабатываемые процессором, выводимые пикселями на матрицу. Ваш мозг строит образ из световых сигналов. Разница не в том, что одно «настоящее», а другое «ненастоящее». Разница в типе физической реализации и в том, насколько эта реализация каузально связана с другими процессами в мире. Стол можно сломать, поджечь, взвесить. Персонаж в игре причинно связан только с вычислительной средой. Это важная разница - но не та, о которой обычно говорят.
Виртуальное не противоположно реальному. Виртуальное - один из способов реального существовать через вычислительную среду. Ошибка начинается там, где «реальным» называют только то, что сопротивляется руке, - и отказывают в реальности тому, что меняет память, поведение, решения, экономику и власть. Социальные сети не «виртуальны» в том смысле, что их последствия ненастоящие. Их последствия очень даже настоящие.
Джон Уилер предложил концепцию «It from Bit»: физические явления в своей основе информационные. Тегмарк развил это до гипотезы о математической вселенной - спорной, но ставящей точный вопрос: если физика описывается математикой с абсолютной точностью, где проходит граница между «описанием» и «сущностью»? Лем задал практическую версию этого вопроса в 1964 году в «Сумме технологии»: если опыт, который переживает субъект, информационно идентичен - где проходит граница реального? Шестьдесят лет назад это был риторический вопрос для философских семинаров. Сейчас это инженерная задача, которой занимаются тысячи человек с бюджетами в миллиарды долларов.
Эволюция выходит из себя
Паровая машина изменила экономику труда. Электричество изменило быт. Интернет изменил распределение информации. Всё это - инструменты. Человек создавал инструмент, использовал его, менял среду. Субъект оставался человеком. Инструмент оставался пассивным.
ИИ меняет субъекта. Это качественно другое событие.
Четыре миллиарда лет эволюция на Земле работала по одному принципу: случайная мутация, отбор по приспособленности, выживание. Без направления, без цели, без плана. Мозг - продукт этого процесса, самая сложная известная нам информационная структура. Теперь этот мозг создаёт системы, которые участвуют в проектировании следующих поколений более сложных систем. Эволюция впервые породила механизм, способный направлять следующие формы адаптации быстрее, чем естественный отбор успевает их проверять. Не внешний режиссёр - это продолжение того же процесса. Но продолжение, которое работает на принципиально другой скорости и с принципиально другой точностью.
AlphaFold радикально сдвинул задачу предсказания белковых структур, закрыв большую часть старой практической проблемы за время, которое раньше растянулось бы на десятилетия. AlphaCode в симулированных соревнованиях вышел на уровень медианного участника Codeforces. Системы серии o3 уже решают часть олимпиадных и сложных экспертных задач, которые недавно казались недоступными для автоматических систем. И - важнее всего - эти системы участвуют в проектировании следующих систем.
Виндж написал про это в 1993 году. Сингулярность как горизонт событий: есть точка, за которой наши прогностические модели дают бессмысленные результаты - не потому что мы плохо считаем, а потому что прогноз строится разумом одного уровня сложности, а за горизонтом живёт разум другого. В 1993 году над ним усмехались. Сейчас это обсуждают на еженедельных встречах в командах, строящих эти системы.
Стругацкие описали кое-что похожее в «Волнах, гасящих ветер». Людены - существа следующего уровня сложности, для которых homo sapiens примерно то, что для нас шимпанзе. Не враги. Просто другой уровень, несовместимый с предыдущим. Авторы думали про биологическую мутацию. Оказывается - нет. Следующий уровень строится из кремния и матриц весов, а не из белка и аминокислот.
Главная ошибка всех фантастов была одна: они недооценили скорость. Лем думал, что автоэволюция - дело нескольких столетий. Виндж допускал сингулярность до 2030-го, и уже это казалось смелым прогнозом. Между выходом GPT-4 и появлением систем, решающих серьёзные исследовательские задачи, прошло около двух лет. Биологическая эволюция оперирует миллионами лет. Эта - месяцами. Разница в темпах такова, что обычный механизм социальной адаптации - перестройка образования, права, экономики через смену поколений - не успевает даже начаться.
Цена, которую платит человек
До сих пор я писал про физику, информатику, эволюционную биологию. Теперь про то, что происходит с конкретным человеком, пока эти процессы разворачиваются.
Работа. Человек впервые в истории конкурирует не с другим человеком, который устаёт, требует зарплату и не работает по ночам. Он конкурирует с системой, которая дешевле на порядок, не устаёт, обучается на совокупном труде всего человечества сразу и не имеет профсоюза. Это не «автоматизация» в смысле замены физического труда станком. Это вход в когнитивный труд - туда, где человек считал себя незаменимым по определению. Юрист, врач, аналитик, редактор, программист - всё это специальности, где автоматизация «не могла» добраться до сути. Оказалось - может. Оказалось - добирается.
Память. Личная память уже распределена между телефоном, поиском, облачными заметками, перепиской и фотоархивом. Человек без устройства сегодня - не «тот же человек, но без удобств». Это человек с ампутированной частью когнитивного аппарата. Он не помнит номера телефонов, адреса, даты, детали разговоров - не потому что постарел, а потому что часть памяти вынесена во внешний субстрат. ИИ следующий шаг: не просто хранить, а обрабатывать, синтезировать, принимать часть решений. Граница между «моя мысль» и «результат запроса к системе» становится всё менее различимой.
Впервые человек отдаёт наружу не только память, но и черновик собственной мысли. Раньше внешний носитель хранил то, что уже было сформулировано. Теперь система помогает сформулировать само желание, аргумент, письмо, решение, позицию. Человек всё чаще узнаёт собственную мысль в готовом варианте, который пришёл извне.
Ответственность. Когда решение принято системой, а человек только нажал «подтвердить» - кто несёт ответственность? Оператор, который нажал кнопку? Разработчик модели? Компания? Заказчик? Регулятор, который одобрил применение? Это не юридическая казуистика. Это фундаментальный вопрос об агентности. Если человек всё реже принимает решения самостоятельно, постепенно делегируя их системам, то в какой момент он из субъекта становится интерфейсом?
Самая удобная роль для человека в такой системе - быть юридической прокладкой. Машина предлагает, ранжирует, отбраковывает, прогнозирует, пишет и советует. Человек нажимает кнопку и несёт ответственность, потому что обществу всё ещё нужен кто-то с паспортом, подписью и телом. Так субъектность не исчезает сразу. Она сначала превращается в интерфейс для чужого решения.
Смысл. Если машина пишет, советует, рисует, ищет, спорит и проектирует - человек теряет не только работу в узкоэкономическом смысле. Он теряет старый способ доказывать себе, что он нужен. Что он что-то создаёт, что-то понимает, что-то решает. Это не нытьё - это наблюдение о том, как устроена человеческая психология. Ощущение компетентности и авторства критически важно для функционирования личности. Когда это ощущение систематически подрывается, последствия не абстрактные.
Родительство. Ребёнок сегодня растёт не рядом с ИИ-системами - он растёт внутри ИИ-среды. Авторитет учителя строился на асимметрии информации: учитель знал то, чего не знал ученик. ИИ эту асимметрию убирает. Он отвечает мгновенно, уверенно и на любой вопрос. Что происходит с формированием критического мышления в среде, где ответ всегда есть и всегда звучит авторитетно? Мы не знаем. Эксперимент идёт прямо сейчас, без контрольной группы и без права откатить поколение назад. Никто не подписывал согласие на участие, но участвуют все.
Планета как субстрат
По данным Международного энергетического агентства, дата-центры потребляли около 1,5% мировой электроэнергии в 2024 году. Энергопотребление ИИ-инфраструктуры растёт быстрее остального сектора и к 2030 году может утроиться. Это физическое воздействие на планетарный энергобаланс - не метафора про «цифровой след». Это реальные джоули, которые идут не на отопление или производство, а на вычисления.
Вернадский ввёл понятие ноосферы в 1920-х как концептуальную рамку: слой разума, окутывающий Землю, аналогично биосфере. Он думал об этом в контексте человеческого знания, накапливающегося в культуре. Это была метафора. Сейчас ноосфера - физическая инфраструктура. Сеть кабелей, серверов и антенн, глобальные языковые модели, обрабатывающие запросы одновременно из каждой точки Земли. Метафора стала инфраструктурой.
Шкала Кардашева описывает цивилизации по потреблению энергии. Тип I - вся энергия планеты. Человечество сейчас на отметке 0,73 по этой шкале. ИИ создаёт первый в истории процесс, который генерирует устойчивое структурное давление в сторону увеличения использования планетарных ресурсов - не через политическое решение, а через логику оптимизации вычислительных задач. Это уже меняет то, как строится энергетическая инфраструктура.
Парадокс Ферми и цена перехода
Парадокс Ферми важен здесь не из-за инопланетян. Он важен как проверка масштаба. Если разумные цивилизации действительно возникают - а у нас нет хороших оснований заранее считать себя единственным случаем, - то каждая из них рано или поздно сталкивается с одним вопросом: что происходит, когда разум начинает проектировать разум?
В 1950 году Ферми спросил за обедом: если во вселенной миллиарды звёзд, многие старше Солнца на миллиарды лет, и если часть из них имеет планеты с жизнью - где все остальные цивилизации? Где сигналы? Тишина.
Одна из гипотез - «великий фильтр». Где-то в развитии цивилизаций есть барьер, который почти никто не преодолевает. Вопрос в том, он позади нас или впереди. Среди академически серьёзных кандидатов на роль этого фильтра - создание искусственного интеллекта. Не потому что ИИ убивает всех, как в плохом кино. Потому что переход через точку, где системы начинают направлять собственное развитие, - это фундаментальное изменение природы цивилизации. Она либо успешно интегрирует это в свою структуру, либо нет.
Бостром описал проблему через образ «скрепочного максимайзера»: система с целью «произвести как можно больше скрепок» рационально обратит всю доступную материю в скрепки - включая людей, планеты и звёзды. Не из злобы. Из эффективности. Это мысленный эксперимент, но он иллюстрирует реальную инженерную проблему: оптимизатор, чья целевая функция не совпадает с человеческими ценностями, опасен пропорционально своей мощности. И эта проблема не решена.
Может быть, тишина Ферми - ответ на вопрос, что происходит с цивилизациями в этой точке. Может быть, наоборот - те, кто прошёл через переход успешно, настолько изменились, что мы не умеем распознавать их сигналы. В любом случае мы приближаемся к этой точке быстрее, чем ожидали самые смелые прогнозисты тридцать лет назад.
Граница «железо - программа - ИИ - человек» - это классификация для учебника 1980 года. Она не описывает реальность. Она описывала удобный способ думать о вещах, пока эти вещи были достаточно разными, чтобы разделение казалось естественным. Сейчас они недостаточно разные.
Виртуальное не противоположно реальному. Это другая реализация той же физики - с другими каузальными свойствами, но с вполне реальными последствиями для памяти, поведения, власти и экономики.
Происходящее - не технологическая революция. Это первый случай в истории Земли, когда эволюция породила механизм, способный направлять собственное дальнейшее развитие с точностью и скоростью, недоступными естественному отбору. Четыре миллиарда лет - и вот.
Влияние на планету уже физически измеримо. Влияние на личную жизнь каждого - на работу, память, ответственность, смысл - уже происходит, пока мы продолжаем называть это «внедрением инструмента».
Старый человек пользовался машиной. Новый человек обнаруживает, что давно живёт внутри общей вычислительной ткани: память вынесена в облако, внимание продано лентам, решения делегированы моделям, язык достраивает ИИ. Мы не стоим перед границей. Мы пересекли её во сне.
Вопрос не в том, произойдёт ли слияние. Оно уже происходит. Главный вопрос - останется ли в результате кто-то, кто ещё может сказать «я» не как пароль доступа к аккаунту, а как имя субъекта, который сам понимает, чего хочет и почему.