Мы пересекли черту во сне. Объясняю, почему ИИ — это конец 4 миллиардов лет привычной эволюции
Манифест о том, как исчезает разделение между железом, программой, ИИ и человеком - и почему происходящее не технологическая революция, а эволюционное событие, к которому биосфера не готовила ни право, ни экономику, ни самого человека.
Прочитал «Манифест созидателя» Гордейчика. Он про кибербезопасность - про то, что код обесценился, что агенты переписывают индустрию, что средний менеджмент уже труп, просто ещё не оформлен. С отдельными выводами можно спорить, но диагноз в целом точный: это портрет одной отрасли в момент слома.
Но я хочу написать про другое. Не про отрасль. Про реальность. Граница между железом, кодом, ИИ и человеком была не ложью, а временной инженерной привычкой. Работала, пока машина оставалась инструментом, программа - инструкцией, человек - единственным субъектом. Сейчас эта схема не держится. Граница между реальным и виртуальным тоже оказывается не стеной, а привычкой языка. А то, что мы называем «внедрением ИИ» - это первое за четыре миллиарда лет изменение скорости эволюционного процесса: разум начинает проектировать разум быстрее, чем естественный отбор успевает проверять варианты.
Я поймал себя на неприятной вещи: за последний месяц несколько раз не смог отделить собственную мысль от мысли, которую помогла собрать модель. Не в том смысле, что она написала за меня. Хуже. Она дала форму тому, что я сам ещё не успел додумать. И я согласился - потому что звучало точнее, чем я бы сформулировал сам.
Граница как инженерная привычка
В чём разница между нейроном и транзистором?
Нейрон - живая клетка с мембраной, ионными каналами и синапсами. Меняет электрохимический потенциал, передаёт сигнал дальше. Транзистор - кремниевый кристалл с полупроводниковыми переходами. Меняет электрический потенциал, передаёт сигнал дальше. Они не одинаковы: нейрон сложнее, живёт в электрохимической среде, участвует в синаптической пластичности. Но оба меняют состояние под действием входного сигнала и участвуют в передаче информации.
Здесь легко скатиться в дешёвый трюк и объявить транзистор «почти нейроном», а серверную ферму «почти мозгом». Разница огромна. Но сама функция обработки информации давно не привязана к одному материалу. Шеннон в 1948 году показал это математически: количество информации описывается независимо от физического носителя. Паттерн в кремнии и паттерн в белке могут нести одинаковое количество информации и выполнять одинаковую функцию. Субстрат важен. Но он не монополизирует саму функцию.
Граница «железо - программа» давно перестала быть чёткой. Современные процессоры содержат микрокод - программы, зашитые в кремний на этапе производства. FPGA перестраивает физическую топологию схем под задачу. Нейроморфные чипы Intel Loihi реализуют спайковую динамику прямо в аппаратуре. Одной чистой границы уже нет.
С границей «программа - ИИ» то же самое. ИИ тоже программа. Нейронная сеть - математические функции в коде, умножение матриц на ускорителях вычислений. Разница не в самой природе вещей, а в способе получения поведения: параметры выводятся из данных через алгоритм оптимизации, а не задаются вручную. Но сам алгоритм - тоже программа. Различие в методе, а не в сущности.
Граница «ИИ - человек». Тут обычно вытаскивают аргумент про сознание. Честная позиция: мы не знаем, что такое сознание. Нет общепринятого определения и нет способа его измерить. Теория Тонони предлагает числовой критерий - Phi как меру интегрированности информационных процессов. Гипотеза дискуссионная, консенсуса нет. Но сам факт, что учёные пытаются описывать сознание количественно, говорит о главном: эта граница оспоримее, чем принято считать. И оспаривают её не фантасты, а исследовательские программы в ведущих университетах мира.
Три разрыва - железо/программа, программа/ИИ, ИИ/человек - были практически полезными, пока системы достаточно различались по роли, скорости и автономности. Сейчас они перестали объяснять главное: где принимается решение и кто за него отвечает. Старые слова ещё работают в презентациях. В реальности они уже врут.
Реальность как интерфейс
«Стол реален, персонаж в игре - нет» - интуитивно понятно и физически неточно. Стол - атомы, атомы - почти пустое пространство с электронными облаками, «твёрдость» - электромагнитное отталкивание между этими облаками. Вы не касаетесь стола. Ваши атомы отталкиваются от его атомов, нервные окончания регистрируют деформацию, мозг интерпретирует это как «твёрдое». Вся тактильная реальность - интерпретация сигналов, а не прямой контакт с вещами-в-себе.
Персонаж в игре - числа в оперативной памяти, обрабатываемые процессором, выводимые пикселями на матрицу. Мозг строит образ из световых сигналов. Разница между столом и персонажем - в типе физической реализации и в каузальной связности: стол можно сломать, поджечь, взвесить, персонаж привязан к вычислительной среде. Разница важная. Но не та, о которой обычно говорят.
Виртуальное живёт внутри физики. Сервер греется, экран светится, человек меняет решение, деньги уходят со счёта, репутация рушится. Называть такой процесс «ненастоящим» можно только по привычке.
Физики давно ходят вокруг этой мысли - от «It from Bit» Уилера до математической вселенной Тегмарка. Но для моего тезиса не нужна сильная версия их идеи. Достаточно простого наблюдения: цифровое событие физично, если меняет поведение людей, деньги, власть и память. Лем задал практическую версию этого вопроса ещё в 1964-м в «Сумме технологии»: если субъективный опыт информационно идентичен - где граница реального? Шестьдесят лет назад это был вопрос для философского семинара. Сейчас это инженерная задача с бюджетами в миллиарды долларов.
Эволюция выходит из себя
Можно возразить: каждая новая технология пугала современников. Да, пугала. Но печатный станок не проектировал следующую версию печатного станка. Паровая машина не улучшала паровые машины. Интернет не имел собственной цели. С ИИ спор приходится вести уже на другом уровне.
Четыре миллиарда лет эволюция на Земле работала по одному принципу: случайная мутация, отбор, выживание. Без направления, без цели, без плана. Мозг - продукт этого процесса, самая сложная известная нам информационная структура. И вот этот мозг создал системы, которые участвуют в проектировании следующих поколений более сложных систем. Эволюция впервые породила механизм, способный направлять следующие формы адаптации быстрее, чем отбор успевает их проверять.
И вот тут становится неприятно.
AlphaFold радикально сдвинул задачу предсказания белковых структур, закрыв большую часть старой проблемы за время, которое раньше растянулось бы на десятилетия. AlphaCode вышел на уровень медианного участника Codeforces. Системы серии o3 уже решают часть олимпиадных и сложных экспертных задач, которые недавно казались недоступными для автоматических систем. И - важнее всего - эти системы участвуют в проектировании следующих систем.
Виндж написал про это в 1993 году. Сингулярность как горизонт событий: есть точка, за которой наши прогнозы дают бессмысленные результаты - потому что прогноз строится разумом одного уровня сложности, а за горизонтом действует разум другого. В 1993 году над ним усмехались. Сейчас это обсуждают на еженедельных встречах в командах, которые строят эти системы.
Стругацкие описали похожее в «Волнах, гасящих ветер». Людены - существа следующего уровня сложности, для которых homo sapiens примерно то, что для нас шимпанзе. Не враги. Просто другой уровень, несовместимый с предыдущим. Авторы думали про биологическую мутацию. Оказывается - следующий уровень строится из кремния и матриц весов, а не из белка и аминокислот.
Главная ошибка всех фантастов была одна: они недооценили скорость. Лем думал, что автоэволюция - дело нескольких столетий. Виндж допускал сингулярность до 2030-го, и уже это казалось смелым. Между выходом GPT-4 и появлением систем, решающих серьёзные экспертные задачи, прошло около двух лет. Биологическая эволюция оперирует миллионами лет. Эта - месяцами. Обычный механизм социальной адаптации - перестройка образования, права, экономики через смену поколений - не успевает даже начаться.
Цена, которую платит человек
Работа. Человек впервые конкурирует не с другим человеком, который устаёт, требует зарплату и не работает по ночам. Он конкурирует с системой, которая дешевле на порядок, не устаёт, обучается на совокупном труде всего человечества и не имеет профсоюза. Юрист, врач, аналитик, редактор, программист - специальности, где автоматизация «не могла» добраться до сути. Оказалось - может. Добирается.
Память. Я уже не помню половину того, что раньше держал бы в голове. Не потому что память стала хуже. Просто память переехала в телефон, поиск, заметки, архив переписок. Человек без устройства сегодня - не «тот же человек, но без удобств». Это человек с ампутированной частью когнитивного аппарата. ИИ делает следующий шаг: переезжает уже не справочник, а черновик мышления.
Впервые человек отдаёт наружу не только память, но и процесс формулирования мысли. Вот простой пример: сидишь, пишешь письмо, не можешь найти точную формулировку. Просишь модель помочь. Она выдаёт вариант - и через секунду уже непонятно, где твоя позиция, а где удобная синтетическая формулировка, которую ты принял за свою. Раньше внешний носитель хранил то, что уже было придумано. Теперь система помогает придумать. С этим неудобно жить, поэтому мы называем происходящее «внедрением».
Ответственность. Когда решение принято системой, а человек только нажал «подтвердить» - кто отвечает? Оператор? Разработчик модели? Компания? Регулятор? Вопрос не юридический. Вопрос про агентность. Если человек всё реже решает сам, в какой момент он из субъекта становится интерфейсом?
Самая удобная роль для человека в такой системе - быть живой подписью под чужим решением. Машина предлагает, ранжирует, отбраковывает, прогнозирует, пишет и советует. Человек нажимает кнопку и несёт ответственность - потому что обществу всё ещё нужен кто-то с паспортом, подписью и телом. Субъектность не исчезает одним щелчком. Она тихо сползает к роли оператора, который всё меньше понимает, что именно подтверждает.
Смысл. Если машина пишет, советует, рисует, ищет, спорит и проектирует - человек теряет не только работу. Он теряет старый способ доказывать себе, что он нужен. Что он что-то создаёт, понимает, решает. Ощущение компетентности и авторства критически важно для функционирования личности. Когда оно систематически подрывается - последствия не абстрактные.
Родительство. Ребёнок сегодня растёт не рядом с ИИ-системами - он растёт внутри ИИ-среды. Авторитет учителя строился на асимметрии информации: учитель знал то, чего не знал ученик. ИИ эту асимметрию убирает. Отвечает мгновенно, уверенно и на любой вопрос. Что происходит с формированием критического мышления в среде, где ответ всегда есть и всегда звучит авторитетно? Мы не знаем. Эксперимент идёт прямо сейчас, без контрольной группы и без права откатить поколение назад. Никто не подписывал согласие на участие, но участвуют все.
Планета как субстрат
По данным Международного энергетического агентства, дата-центры потребляли около 1,5% мировой электроэнергии в 2024 году. Энергопотребление ИИ-инфраструктуры растёт быстрее остального сектора и к 2030 году может утроиться. Это не метафора про «цифровой след». Это реальные джоули, которые идут не на отопление или производство, а на вычисления.
Вернадский ввёл понятие ноосферы в 1920-х - слой разума, окутывающий Землю. Он думал об этом как о метафоре. Сейчас ноосфера - физическая инфраструктура. Кабели, серверы, антенны, языковые модели, обрабатывающие запросы одновременно из каждой точки Земли. И эта инфраструктура растёт не потому что кто-то так решил, а потому что вычислительные задачи требуют энергии, энергия требует мощностей, мощности перестраивают планету. Логика оптимизации давит на ресурсы сильнее любого политического решения.
Парадокс Ферми и цена перехода
Парадокс Ферми важен здесь не из-за инопланетян. Он важен как проверка масштаба. Если разумные цивилизации действительно возникают - а у нас нет хороших оснований заранее считать себя единственным случаем, - то каждая из них рано или поздно сталкивается с одним вопросом: что происходит, когда разум начинает проектировать разум?
В 1950 году Ферми спросил за обедом: если во вселенной миллиарды звёзд, многие старше Солнца на миллиарды лет, и если часть из них имеет планеты с жизнью - где все остальные? Где сигналы? Тишина.
Одна из гипотез - «великий фильтр». Где-то в развитии цивилизаций есть барьер, который почти никто не преодолевает. Вопрос - позади он или впереди. Среди серьёзных кандидатов на роль фильтра - создание искусственного интеллекта. Не потому что ИИ убивает всех, как в плохом кино. Потому что переход через точку, где системы начинают направлять собственное развитие, фундаментально меняет природу цивилизации. Она либо успешно интегрирует это, либо нет.
Бостром описал проблему через «скрепочный максимайзер»: система с целью «произвести как можно больше скрепок» рационально обратит всю доступную материю в скрепки - включая людей. Не из злобы. Из эффективности. Мысленный эксперимент, но он показывает реальную инженерную проблему: оптимизатор, чья целевая функция не совпадает с человеческими ценностями, опасен пропорционально своей мощности. Проблема не решена.
Может быть, тишина Ферми - ответ на вопрос, что происходит с цивилизациями в этой точке. Может быть, те, кто прошёл, настолько изменились, что мы не умеем распознавать их сигналы. В любом случае мы приближаемся к этой точке быстрее, чем ожидали самые смелые прогнозисты тридцать лет назад.
Граница «железо - программа - ИИ - человек» - это классификация для учебника 1980 года. Она не описывает реальность. Она описывала удобный способ думать о вещах, пока эти вещи были достаточно разными, чтобы разделение казалось естественным. Сейчас они недостаточно разные.
Виртуальное не противоположно реальному. Это другая реализация той же физики - с другими каузальными свойствами, но с вполне реальными последствиями для памяти, поведения, власти и экономики.
Происходящее - не технологическая революция. Это первый случай в истории Земли, когда эволюция породила механизм, способный направлять собственное дальнейшее развитие с точностью и скоростью, недоступными естественному отбору. Четыре миллиарда лет - и вот.
Влияние на планету уже физически измеримо. Влияние на личную жизнь каждого - на работу, память, ответственность, смысл - уже происходит, пока мы продолжаем называть это «внедрением инструмента».
Старый человек пользовался машиной. Новый человек обнаруживает, что давно живёт внутри общей вычислительной ткани: память вынесена в облако, внимание продано лентам, решения делегированы моделям, язык достраивает ИИ. Мы не стоим перед границей. Мы пересекли её во сне.
Вопрос не в том, произойдёт ли слияние. Оно уже происходит. Главный вопрос - останется ли в результате кто-то, кто ещё может сказать «я» не как пароль доступа к аккаунту, а как имя субъекта, который сам понимает, чего хочет и почему.