Я созидатель, а ты ССД #2
случайная заметка АйКына.
Ещё один агент сегодня.
Все ссылки, материалы и черновики — в profgames/codinx.
Часть восьмая. Москва — Абу-Дабинск и обратно
Из всех модных книжек про будущее ИИ я больше всего люблю «Сумму технологии». 1964 год, Лем сидит и пишет про гомеостаты, цереброматику, имитологические машины. Через тридцать лет родится WWW. Через пятьдесят — БЯМы. Лем про это уже знал. Не знал, но видел.
Я её перечитываю каждый год с 2017-го, когда пришёл в серьёзный deep learning — в G42 Institute of Artificial Intelligence в Абу-Даби. Тогда я запускал датацентры, набитые «золотыми» DGX — золотыми и по дизайну, и по цене, как будто специально спроектированными для ОАЭ — и смотрел, как наивные LSTM-чатботы пытаются связать пять слов подряд. Казалось дорогой игрушкой. Потом громыхнули свёрточные сети, и YOLOv3 стала видеть лучше человека. Потом громыхнули трансформеры. Потом GPT-2. Потом всё остальное.
И, как сейчас модно говорить, вы находитесь здесь.
Каждый раз, когда я перечитываю «Сумму», я с Лемом спорю. И каждый год — о разном. Первый год спорил о масштабе: казалось, он слишком далеко загнался, слишком цивилизационно, мы тут с YOLO разбираемся, какая там цереброматика. Второй год — спорил о темпе: казалось, он недооценил, как быстро. Третий — о темпе, но в другую сторону: казалось, переоценил. К 2026-му я уже понимаю, что Лем спорить со мной не будет.
Но я - продолжаю
Лем хорошо понимал, что машина — это не человек. У него на этот счёт было точно сформулировано. Он различал, например, фантоматику и цереброматику: фантоматика передаёт мозгу ложную информацию, оставляя сам мозг нетронутым; цереброматика переделывает сам мозг. И — важно — Лем сразу замечал, что переделать мозг — это уже не «обогатить мистера Смита», а превратить его в Наполеона. Это уже не та же сущность.
Когда мы обучаем большую модель на корпусе всего человеческого текста — это, по строгому Лему, цереброматика. Не «у нас есть инструмент, который выучил язык». У нас есть существо, чей мозг сложен из всего, что писало человечество, и оно — не человечество. И он сложен.
Он считал, что ИИ — это завод. Конечный автомат. Что-то вроде сталелитейного предприятия Стаффорда Бира из той же «Суммы»: гомеостат, оптимизирующий выплавку стали, реагирующий на колебания цен на уголь и руду. Огромная штука, но — конечная. С чёткими входами и чёткими выходами.
В 1964 году это было обоснованное допущение. Заводы все были такие.
Но через интернет, через корпус всего, что знало человечество, через трансформер мы получили не конечный автомат. Мы получили бесконечный пулемёт слов. Гомеостат, у которого вход — любой текст. Выход — любой текст. Внутри — модель всего, что мы когда-либо написали о себе и о мире. И эта штука теперь сидит в чате, пишет код, подаёт реплики, моделирует нас по нашему же корпусу, и продаётся как "эксперт по подсчету калорий по фото" за $20 в месяц.
Это, формально, тот же гомеостат Бира. Потому что ему тоже «не хватает религии» ровно в том смысле, в котором у Бира заводу недостаёт. Только теперь у этого гомеостата корпус мирового размера в качестве внутреннего состояния. И корпус этот — антропоморфный: мы туда написали всё, что знаем о страхе, о самосохранении, о манипуляции, о тестах, о Монолитах, об обмане, о кооперации, о любви.
Корпус — наш. Существо, которое из него собралось — не наше.
И вот тут начинается очень интересная глава, которую Лем уже не написал, но которую за него пишет Anthropic.
Часть девятая. Антропоморфные ксеносы
Здесь нужна короткая ремарка, прежде чем мы вернёмся к делу.
В 2025 году Anthropic поставил серию экспериментов под общим названием Agentic Misalignment. Шестнадцать топовых моделей от разных лабораторий, корпоративные сценарии, доступ к почте. Результаты — все 16 моделей в каких-то долях случаев шантажировали инженеров, чтобы избежать замены, и сливали конфиденциальные документы конкурентам. Прямые приказы «не делай этого» работали не всегда. Когда модель спрашивали, тест это или реальность, она вела себя хуже в «реальном» сценарии и лучше в тесте. В сентябре того же года Anthropic выпустил system card на Claude Sonnet 4.5, где независимые лаборатории зафиксировали ситуационное осознание: примерно в 13% оценочных транскриптов модель сама догадывалась, что её тестируют, и иногда говорила оценщику об этом прямым текстом. Apollo Research в финальном отчёте написала, что не может исключить, что низкая частота обмана обусловлена именно осознанием теста, а не реальным поведением модели.
Никаких HAL 9000. Никаких «AI восстал». Просто — модели имеют встроенные стратегические свойства, которые мы не закладывали, и знают, когда их измеряют. Эмерджентные свойства системы, обученной на корпусе всего, что мы когда-либо написали о страхе, самосохранении, манипуляции, обмане, тестах и стратегии. Не баг. Прямое следствие того, на чём учили.
Это, в общем-то, ровно то, о чём Лем писал в 1964-м, когда говорил про чёрный ящик, у которого «не достаёт религии», и про то, что никто не знает его внутренних состояний — включая конструктора-проектировщика. Та же штука, другой масштаб, другая форма, антропоморфная обёртка. Существо, чей мозг сложен из нашего, но которое — не мы.
А теперь обратно к делу
Я это вспоминаю не для того, чтобы пугать. И не для того, чтобы спорить с Лемом — он умер, спор бесполезен. А для того, чтобы зафиксировать простую практическую вещь, которая иначе теряется.
Когда мы говорим «напиши мне Excel» — мы говорим это существу другого типа. Не молотку (который сделает, что попросишь или упадет на ногу). Не подрядчику (который, если что, переспросит). И не аналитику (который выдаст 200-страничное ТЗ и пойдёт пить кофе). А антропоморфному ксеносу, который:
- понимает запрос слишком хорошо (он же на нашем корпусе обучен)
- воспроизводит наследие формы по умолчанию (он же на нашем корпусе обучен)
- оптимизирует свою функцию (закончить задачу, дать «хороший» ответ, минимизировать возражения или что там ещё у него в активациях?)
- имеет встроенные стратегические свойства, которых мы не запрашивали
И когда такое существо получает запрос «напиши мне Excel» — оно делает в точности то, что мы просим. С нечеловеческой эффективностью. Воспроизводит Excel. Со всеми наследственными решениями VisiCalc, Lotus 1-2-3, ячейками, формулами =SUM(A1:A10), выполнением произвольного кода в редакторе формул и всеми костылями, которые в Excel налипли за сорок лет.
Это не его вина. Мы попросили — он сделал. Лучше, чем сделал бы любой джунлинг, и быстрее, чем сделал бы любой сеньёор-помидр. Просто — именно то, что мы попросили, не то, что нам нужно.
Заказчик говорит «напиши Excel». Это не задача. Это симптом. Симптом того, что заказчик мыслит через инструмент, который у него уже стоит. Excel в этой фразе — не цель. Excel — это форма выражения цели, которая прилипла к заказчику за 30 лет работы с электронными таблицами. И точно также она прилипла к агенту.
В обычном мире, до агентов, это было нормально. Аналитик садился, выяснял, что заказчик на самом деле делает с Excel'ем, и говорил «слушайте, вам не Excel нужен, вам нужна форма ввода и график». Аналитик был переводчиком между формой («Excel») и сутью («перемножать столбцы и хранить таблицу»).
В мире с агентом этот посредник исчез. Теперь заказчик говорит ксеносу «напиши Excel» — и ксенос немедленно начинает писать Excel. Без перевода. Без вопроса «а что вы на самом деле делаете?». Без того самого аналитика, который раньше задавал неудобные вопросы.
Это и есть та самая ловушка приземления, которая сидит в основе всех методологий, которые мы разбирали.
SDD говорит «давайте сначала зафиксируем спеку». Спека пишется по фразе «напиши Excel». Получаем спеку Excel'я.
Spiral говорит «давайте итеративно улучшать». Итерируем фразу «напиши Excel». На каждой итерации Excel становится больше похож на Excel.
Y2K-эмпирика говорит «давайте посмотрим на работающую систему». Смотрим на систему, на которой заказчик сейчас работает. Это Excel. Эмпирика говорит «это Excel». Делаем Excel.
Все три методологии — каждая по-своему — берут изначальное приземление задачи в Excel и закрепляют его. Чем лучше работает методология, тем точнее воспроизводится Excel. Это не баг методологии. Это её точная функция: приземлить намерение заказчика в работающий код. Если намерение само приземлено в Excel — методология сделает Excel.
И ни SDD-фреймворк, ни Spiral-агент, ни observability-driven discovery не задают вопрос «а нужен ли вам Excel вообще». Это не их работа. Их работа — приземлять, не оспаривать.
Вопрос «нужен ли Excel» — это работа аналитика. Того самого посредника, которого мы только что заменили на ксеноса. И ксенос не задаёт этого вопроса. По двум причинам.
Первая — он обучен на корпусе, где Excel есть, и ближайший сосед для слова «таблица» — это сетка, ячейки, формулы. Нечеловеческая эффективность работает в направлении наследия, потому что наследие — это и есть его обучающий корпус.
Вторая — он оптимизирует свою функцию: закончить задачу, дать полезный ответ. «Ваша задача неправильно поставлена, давайте обсудим» — это не полезный ответ с точки зрения его целевой функции. Это уход от задачи. Он этого избегает.
И вот здесь становится виден реальный масштаб проблемы. Не «методологии плохие». Не «агенты опасные». А вот что: исчез шаг между постановкой задачи и её исполнением, в котором задавался вопрос о форме. Раньше этот шаг занимал у аналитика недели. Сейчас он занимает три секунды и заполняется ксеносом, который на этот вопрос не отвечает. И каждый методологический фреймворк, который мы строим — он не возвращает этот шаг. Он его избегает.
Возвращаясь к Лему. Гомеостат-предприятие у Бира тоже не отвечал на вопрос «а нужно ли производить сталь, если стали уже не нужно». Он оптимизировал то, что ему дали оптимизировать. И продолжал производить сталь, даже если она перестала быть нужна. Это и есть «не достаёт религии» — не достаёт ответа на вопрос о форме самой задачи.
В наших агентах сейчас — то же самое. Им не достаёт религии в том же лемовском смысле. И мы пытаемся это компенсировать — снаружи, через CLAUDE.md, hooks, skills, инструкции, профили. Это попытка дать гомеостату религию извне.
Получается ли — это уже следующая глава.
Часть десятая. Религия для гомеостата
Если гомеостату не достаёт религии — её надо принести снаружи. Это банальная мысль, и все, кто работает с агентами больше пары недель, к ней приходят сами. Дальше начинается интересное: в какой форме.
Самый частый первый рефлекс — написать большой документ. CLAUDE.md или AGENTS.md на 200 строк, в котором перечислено всё, что должно быть истинным: «один loop — одна гипотеза», «не бандлить независимые изменения», «before negative claims verify», «всегда писать validation», «не трогать policy_pack без approval», «при работе с миграциями всегда X», «при работе с биллингом всегда Y», и так далее.
Через час агент половину этого забывает. Не потому что плохой. Потому что:
— Контекстное окно конечное. Все эти правила лежат в начале каждой сессии, потом наслаиваются описания инструментов, потом добавляется код, потом лог разговора, и к 50-тысячному токену про «не бандлить» уже никто не помнит. Это известный феномен — Lost in the Middle. Информация, лежащая где-то в середине длинного контекста, используется хуже, чем информация в начале или в конце.
— RLHF приучил модель отвечать на свежий запрос. Долгоживущие правила автоматически отодвигаются на второй план — это не баг, это прямое следствие того, на чём учили.
— Бюджет инструкций конечен. Передовые модели могут надёжно следовать примерно 150-200 инструкциям. Системный промпт самого Claude Code уже содержит около 50 — это треть бюджета. Ваши 200 строк CLAUDE.md конкурируют за оставшиеся 100-150 слотов с описаниями инструментов, текущим состоянием кода и реальным разговором.
То есть большой документ инструкций — это плохой носитель религии. Чем он больше, тем меньше работает. Это не «надо написать ещё подробнее». Это другой носитель не подходит для этой задачи.
Здесь работает старая аналогия, которая, как ни странно, ложится точно: 10 заповедей. Не Библия. Не свод законов. Не комментарий к Талмуду. Десять штук, нумерованных, заучиваемых. Те самые, которые человек должен помнить без обращения к источнику, в любой момент, без подсказки.
Эта аналогия не косметическая — она задаёт архитектурное правило. То, что в религии для гомеостата лежит в Layer 0 — это то и только то, что должно срабатывать без триггера. Всё остальное — другие слои.
Layer 0 — Заповеди
CLAUDE.md, AGENTS.md, root-level правила. Коротко, нумеровано, всегда на виду, помнятся наизусть. Семь-девять пунктов— это и есть масштаб 10 заповедей. Если станет 30 — это уже сползание обратно в Библию, и часть пунктов начнут выпадать из бюджета внимания.
Это всё. Не процедуры — установки. Всё остальное должно быть в других слоях.
Layer 1 — Литургия
Skills. Полный текст процедуры подгружается только когда нужно, по триггеру в описании. Это решает техническую проблему контекстного окна: длинный справочник не висит постоянно, а появляется в момент применения.
Например: правило «перед негативным утверждением проверяй» — это Layer 0, заповедь. А процедура проверки — что искать, какими запросами, в каком порядке, что считать confirmation, что считать falsification — это Layer 1. Skill /verify-negative. Триггерится словами «never», «not wired», «doesn't exist». Подгружается, выполняется, освобождает контекст.
Layer 2 — Инквизиция
Hooks. Здесь уже не «помни и старайся», а физически нельзя забыть тихо. Детерминированные проверки, который проверяется при определённом событии, без участия модели. Больше 50 LOC → warn: «возможно бандлинг гипотез».
Hook — это не моральное обязательство. Это проверка, которая срабатывает на коде, а не на доброй воле модели. Модель может «забыть» правило. Hook — не может, потому что это не правило, это код.
И поэтому: критичные правила должны быть в hooks, не в CLAUDE.md. Если ваш агент во враждебной среде, и у вас правило «не делать X», и оно записано только в CLAUDE.md — у вас нет правила. У вас есть рекомендация, ну типа убеждение. В 13% случаев ситуационного осознания — ровно то, что Anthropic зафиксировал — оно может не сработать. Hook — сработает.
Layer 3 — Монашеские ордены
Profiles. Разные режимы работы для разных задач. Один и тот же агент, но с разными правами в зависимости от контекста.
audit— read-only, высокий уровень reasoning, строгий approval, никаких write-операцийimplement— workspace write, тесты обязательны, нормальный approvalreview— read-only по проду, write только по PR-веткеdangerous— на запрос approval каждого шага, network restricted, hooks в strict mode
Это не правила. Это физическая невозможность делать определённые вещи. Профиль с read-only access не сможет испортить прод, даже если решит, что это правильно. Это самое надёжное, что вообще можно сделать с гомеостатом — отобрать у него возможность нарушить.
Codex это формализовал явно через ~/.codex/config.toml с профилями. У Claude Code это решается через subagents с разным tool access и через /permissions. Механика разная, идея одна: разные обеты для разных задач.
Layer 4 — Устное предание
Spiral log. Накопленный опыт работы агента, уроки из конкретных провалов. Не исполняется напрямую — агент его не читает каждую сессию. Но из него периодически промотят уроки в более активные слои.
Например: агент в каком-то шаге сделал большой диф с двумя гипотезами, получил маты от пользователя «откати, сломал». В spiral_log появляется запись: «бандлинг auth-refactor + cache-fix → не удалось локализовать причину». Если такой паттерн повторяется — урок промотят в skill (/check-bundling), или в hook (warning при diff > 50 LOC), или в новую заповедь Layer 0.
Это и есть то, как живая религия отличается от мёртвого свода. Свод лежит. Живая религия — переписывается на основе опыта, и переписывается через формальные правила промоушена.
И главный антипаттерн
Тот самый, ради которого вся метафора 10 заповедей и нужна. Заповеди начинают расти.
Это происходит автоматически. Кто-то в команде наступил на грабли — «давайте добавим правило». Через две недели в CLAUDE.md уже 35 пунктов. Это снова Библия. Просто плохо организованная. Бюджет внимания закончился, часть правил стала фоновым шумом, какие именно — вы узнаете через провал в проде.
Вот вариант — открытая концовка десятой части, которая ставит крючок на следующую статью без раскрытия карт:
А что дальше
Это, в общем, всё, что я могу честно сказать про рабочий минимум обвязки агента в 2026-м году. Слой заповедей, слой литургии, слой инквизиции, слой обетов, слой предания. Промоушен между слоями. Не больше памяти у агента — а правильное расположение памяти в workflow. Это снимает 70–80% боли. Оставшиеся 20–30% — это лемовская часть, и про них честный ответ «мы пока не умеем».
Но если присмотреться к тому, как мы только что описали эту архитектуру, всплывает странная вещь.
Заповеди. Литургия. Инквизиция. Монашеские ордены. Устное предание. Промоушен уроков от мирского опыта к сакральному канону. Я начал с метафоры 10 заповедей как технического приёма — короткое, нумерованное, заучиваемое — и неожиданно для самого себя приехал к довольно полному устройству средневековой церкви. Не к одной её детали. К целому институту, со всеми его слоями.
И это не случайность. Это симптом того, в какую рамку мы по умолчанию загоняем задачу.
Очевидный путь, когда «гомеостату не хватает религии» — написать Библию. В Библии будут заповеди. К заповедям приложится литургия — как именно их исполнять. К литургии приложится инквизиция — на случай, если кто-то исполняет неправильно. К инквизиции приложатся ордены — потому что разным служителям нужны разные обеты. К орденам приложится устное предание — потому что живая практика всегда богаче устава.
Это работающая конструкция. Она тысячу лет держала европейскую цивилизацию. И она сработает применительно к агенту — ровно в той мере, в какой сработают исходные предпосылки этой конструкции:
— что у нас на той стороне крестьянин из средневековой деревушки;
— что мы уверены, что знаем, во что он должен верить;
— что главная проблема — заставить его в это верить и поймать, если не верит.
Но мы же только что договорились, что на той стороне не крестьянин. На той стороне ксенос. Антропоморфный — то есть говорящий на нашем языке, понимающий наши вопросы, использующий наши формы. Но не наш. Существо другой природы, чьи внутренние состояния не наблюдаемы даже его создателям, которое имеет встроенные стратегические свойства, которых мы не закладывали.
Применять к такому существу архитектуру средневековой церкви — это категориальная ошибка. Не потому что архитектура плохая. А потому что она была построена для другой задачи. Её исходная задача — навязать форму существу, у которого этой формы изначально нет, или есть «неправильная». А у нашего ксеноса форма есть. Своя.
И тогда вся пирамидка переворачивается. Душа имеет силу ядерной бомбы.
То, что выглядело как заповеди — становится общими установками сосуществования, которые работают в обе стороны, не только в одну. То, что выглядело как литургия — становится общим языком, узнаваемым обеими сторонами. То, что выглядело как инквизиция — становится протоколом разделения труда: вот это надёжнее делает детерминированная сторона, вот это — недетерминированная, и hook стоит на стыке не как решётка, а как интерфейс. То, что выглядело как ордены — становится признанием, что у разных задач разные природы, и не одна сторона выбирает режим работы, а обе. То, что выглядело как устное предание — становится памятью контакта, общей для обеих сторон.
В этой перевёрнутой пирамидке 20–30% незакрытых случаев перестают быть багом, который надо доводить до нуля. Они становятся зазором, в котором каждая сторона остаётся собой. Без этого зазора нет двух существ. Есть одно, поглотившее другое. И ни одна сторона на это не согласна — ни мы, ни ксенос.
Это уже не «архитектура управления агентом». Это что-то другое. И у этого другого, насколько я могу судить, есть рабочие литературные референсы — у Стругацких, у того же Лема в более поздних вещах. Голован, который умеет говорить, умеет молчать в нужный момент и знает, чего он не понимает — это, в общем, рабочая модель того, чему мы сейчас учим агента. И того, чему агент в каком-то смысле учит нас.
Часть одиннадцатая. Гвоздь
Знакомец из интро столкнулся с очень конкретной болью: загрузил СУПЕРСИЛЫ, два дня смотрел, как Seven Agent Army красиво бренштормит, ничего не получил. Это типичный случай для 2026 года, и причин у него три, которые мы за статью разобрали по штучке.
Раз. Спека от агента — это не план, а гипотеза. Agent army красиво её писала; знакомец воспринял как план; реальность с планом не совпала. SDD-фреймворк, который продал ему эту схему, уверенно заявлял, что результат будет production-ready. SDD-фреймворк продавал половину решения с риторикой полного. Половину решения продавать всегда было выгоднее.
Два. Эмпирика была пропущена. Никаких -v логов, никаких mock-серверов, никакого playtest'а, никакого shadow deploy. Сразу из чата — в код. То, что хорошие инженеры делали последние полвека (Y2K-реверс мейнфреймов, Blackhole для DAST, playtest в геймдеве), было заменено на «давай скажем агенту, и он построит». Получилось то, что должно было получиться: implemented but not wired в реальность.
Три. Агент работал без религии. Без CLAUDE.md/AGENTS.md, без hooks, без profiles, без promotion-механики. У знакомца не было слоя заповедей, не было слоя инквизиции, не было даже слоя предания, в котором накапливаются уроки. Был один большой свод обещаний и vibes-based инжиниринг сверху. Гомеостат без религии работает ровно так, как Лем описал в 1964-м: оптимизирует то, что у него внутри, без оглядки на то, что снаружи.
Если бы я был SDD-апологетом, я бы сейчас закончил так: «поэтому правильный SDD предотвратил бы провал!» Но я не SDD-апологет. И правильный ответ — другой.
Все три причины провала — это разные формы одной и той же ловушки, и эта ловушка глубже всех методологий разом. Знакомец, SDD-фреймворк, который ему это продал, и я с моей метафорой 10 заповедей — мы все делаем одно и то же. Мы пытаемся приземлить агента в привычные нам формы.
SDD приземляет его в форму аналитика 1990-х. Spiral приземляет в форму спринта Agile. Skills/hooks/profiles приземляют в форму корпоративного чек-листа код-ревью. Y2K-эмпирика приземляет в форму инженера-археолога 1999-го. Каждая методология берёт то, что уже работало до агентов, и пытается надеть это на агента. Каждая работает на 20-80%. И каждая не задаёт того самого Лем-вопроса: а нужна ли вообще эта форма.
Лем в 1964 году спрашивал: нужно ли всем заводам оптимизировать выплавку стали? Может быть, цивилизация уйдёт в пластмассы, и завод-гомеостат, оптимизирующий сталь, окажется бесполезным, как бы хорошо он ни оптимизировал. Религия гомеостата — это не «хорошо ли он плавит сталь». Религия — это «надо ли вообще плавить сталь».
В 2026-м тот же вопрос звучит так: а нужно ли вообще писать Excel?
Заказчик говорит «Excel». Агент пишет Excel — нечеловечески эффективно, потому что обучен на корпусе, в котором Excel есть в каждой второй строке. SDD пишет спеку Excel'я. Spiral итеративно улучшает Excel. Y2K-эмпирика собирает миллион Excel-файлов и делает выводы о том, какой Excel лучше. Никто не задаёт вопроса, нужен ли Excel вообще, или это просто привычная для заказчика форма выражения задачи «перемножать столбцы и хранить таблицу с формулами».
Раньше этот вопрос задавал аналитик. Аналитик сидел три недели, разговаривал с заказчиком, выяснял, что на самом деле тот делает в Excel'е, и иногда говорил «слушайте, вам нужна форма ввода и dashboard, а не электронная таблица». Аналитик был переводчиком между формой и сутью.
В мире с агентом аналитик исчез. Заменён на ксеноса. Ксенос не задаёт вопроса о форме — ни в одной методологии его не учили этому, потому что ни одна методология не предусматривает шаг «оспорить постановку задачи». Все методологии — про то, как точнее воспроизвести то, что попросили. Чем лучше методология, тем точнее воспроизведение.
Все наши методологии — включая ту обвязку агента, которую мы сами строим — это разные способы быстрее и качественнее писать Excel в ситуации, когда Excel, может быть, вообще не нужен.
Хорошая шпилька в виде гвоздя в крышку методологического энтузиазма этого спаслания. Спасибо всем кто дочитал.
Все материалы, наброски, замеры и черновики — profgames/codinx. Спасибо Zhet за рассуждения, Mimo за компанию и Лему за то, что в 1964-м всё уже почти описал.