Вспомогательные модели перестаньте переплачивать за фоновые процессы-14.
Используйте дешевые / быстрые модели (или локальные конечные точки) для сжатия, просмотра, извлечения веб-данных, поиска сеанса и т.д. сохраняя при этом свою премиальную модель для полноценного анализа.
Как Hermes экономит ваши деньги с помощью вспомогательных моделей, если правильно их настроитьБольшинство пользователей Hermes оптимизируют не ту модель.
Они часами сравнивают Opus, Sonnet и GPT-5 в качестве основного агента, но при этом игнорируют вспомогательный уровень, который продолжает сжигать токены в фоновом режиме.Hermes использует отдельные слоты моделей для дополнительных задач, таких как распознавание изображений, извлечение данных из интернета, сжатие, поиск по сессиям, утверждение, очистка памяти и многое другое.
Если вы оставите эти задачи на дорогих моделях по умолчанию или, что еще хуже, поручите премиальным моделям выполнять дешевые дополнительные задачи, то будете переплачивать каждый день.
Хорошая новость: теперь с помощью Hermes это стало проще. модель hermes > Настройка вспомогательных моделей
Это одно из самых понятных обновлений для операторов в Hermes, потому что оно формирует правильное представление о работе в среде выполнения.Используйте дорогостоящие интеллектуальные системы там, где это важно, и дешевые и быстрые модели там, где это не так.
Большинство людей оптимизируют не тот уровень
Когда речь заходит об эффективном использовании Hermes, разговор обычно начинается и заканчивается с обсуждения основной модели.
На первый взгляд это кажется логичным. Основная модель отвечает за основной диалог, управление инструментами и выполнение задач. Если вы используете Hermes для серьезного программирования, исследований или операционной деятельности, этот выбор имеет большое значение.
Кроме того, Hermes выполняет ряд вспомогательных задач, которые поддерживают основной рабочий процесс, но не являются его частью. Эти задачи легко упустить из виду, потому что они воспринимаются как часть продукта, а не вашей стратегии маршрутизации моделей.
Если вы используете премиальную фронтирную модель для основного пользовательского опыта и позволяете фоновым задачам наследовать такое же дорогостоящее поведение или намеренно не перенаправляете их, то можете тратить премиальные ресурсы на работу, которая не требует премиального подхода.
Вывод: самая затратная часть Hermes — это не только ваша основная модель. Это еще и совокупность всех второстепенных вызовов, которые вы забыли оптимизировать.
Что на самом деле делают вспомогательные модели в Hermes
В Hermes Agent есть вспомогательные модели — облегченные модели, которые используются для решения второстепенных задач, таких как анализ изображений, обобщение информации в интернете и анализ скриншотов браузера. В текущей конфигурации/документации также указана дополнительная вспомогательная маршрутизация для более широкого спектра задач, выполняемых во время работы.
Исходя из текущей конфигурации Hermes и путей выполнения кода, вспомогательная маршрутизация может решать такие задачи, как:
- видение > анализ изображений и скриншотов
- web_extract > обобщение веб-страницы
- сжатие > обобщение длинных разговоров
- session_search > подведение итогов совпадений за прошлую сессию
- одобрение > классификация опасных команд
- mcp > Вспомогательная функция MCP
- flush_memories > консолидация памяти
- skills_hub > поиск / сопоставление навыков
- title_generation > заголовки сеансов
Этот список важен, потому что он меняет ментальную модель.
Hermes — это не «одна модель с пользовательским интерфейсом». Это среда выполнения с различными слотами для моделей, предназначенных для разных задач.
Для выполнения некоторых задач требуется серьезный подход. Для других — скорость. Для третьих — мультимодальные возможности.
Некоторым просто нужна быстрая, дешевая и структурированная добыча.
Относиться ко всем так, будто они заслуживают одинакового подхода, — это все равно что платить старшему архитектору за переименование файлов и сортировку чеков.
Вывод: вспомогательные модели — это то, что отличает «Hermes как одного помощника» от «Hermes как маршрутизируемой среды выполнения».
Почему это экономит реальные деньги
Самый простой способ потратить деньги в Hermes — везде использовать премиум-модель.
Это кажется очевидным, но на самом деле все происходит не так просто:
- Контекстное сжатие срабатывает снова и снова во время длительных сеансов
- Веб-экстракция выполняется при каждом суммировании извлеченных страниц
- При поиске по сеансу создаются сводные данные на основе извлеченной истории
- Очистка памяти происходит в процессе использования
- При использовании изображений или скриншотов стоимость видеосвязи может быть довольно высокой.
Обычно это не те гламурные звонки, которыми хвастаются люди.
Но именно эти звонки и создают впечатление.
В недавнем подробном видео на YouTube о вспомогательных моделях Hermes хорошо раскрыта эта тема: самая затратная статья расходов — это компрессия, поскольку она может многократно запускаться в течение долгих рабочих дней с большим объемом данных. Именно в таких задачах оплата передовых моделей может быстро стать неподъемной.
Вот видео на ютуб
Правильный вопрос звучит не так:
Какая самая умная модель, которую я могу себе позволить?
Какие задачи действительно оправдывают затратные вычисления, а какие можно решить быстро, качественно и недорого?
В этом и заключается вся суть операторской работы.
Вывод: экономия достигается не за счет снижения требований к Hermes. Она достигается за счет того, что малоценная фоновая работа не выполняется моделями премиум-класса.
Теперь у Hermes есть более удобный способ управления
Вот почему так важен новый процесс настройки.
В текущей кодовой базе Hermes модель Hermes теперь включает в себя:
Настройте вспомогательные модели...
Это обманчиво важное дополнение.
Потому что благодаря этому вспомогательная маршрутизация воспринимается как полноценная система управления, а не как спрятанный в YAML трюк.
Важна и детализация реализации: этот процесс не требует повторной полной настройки учетных данных. Он предназначен для перенаправления уже настроенных провайдеров/моделей на вспомогательные задачи. Другими словами, он предназначен для операторов, у которых уже настроены провайдеры и которые хотят настроить маршрутизацию трафика для определенных вспомогательных задач.
Это именно тот пользовательский опыт, который нужен для этой функции.
Вспомогательная маршрутизация не должна восприниматься как непонятный хакерский прием, доступный только экспертам. Если Hermes ориентирован на серьезных операторов, он должен предоставлять серьезные возможности управления во время выполнения. И он их предоставляет.
Вывод: модель hermes> Настройка вспомогательных моделей ... это не просто удобство. Это Hermes, делающий контроль затрат на уровне выполнения более понятным.
Основная схема маршрутизации
В Hermes используется простой шаблон конфигурации для вспомогательных слотов модели, который можно использовать многократно:
Этот шаблон эффективен, потому что он предлагает три четких режима работы.
Вспомогательные модели по умолчанию используют Gemini Flash с функцией автоматического определения. Многих пользователей это устраивает, потому что это простой и недорогой вариант по умолчанию, не требующий настройки под конкретную задачу.
2. Направить вспомогательную задачу конкретному поставщику/модели
Если вы знаете, что для выполнения задачи нужна определенная модель, вы можете указать ее напрямую.
Например, в документации показаны такие шаблоны:
auxiliary:
vision:
provider: "openrouter"
model: "moonshotai/kimi-k2.6"
Это полезно, когда задача требует особых навыков, особенно в области зрения.
3. Маршрутизация к прямой пользовательской или локальной конечной точке
Вот где можно серьезно сэкономить.
Hermes позволяет base_url переопределить провайдера, то есть вы можете указать вспомогательной задаче локальную или пользовательскую конечную точку, совместимую с OpenAI:
auxiliary:
vision:
base_url: "http://localhost:1234/v1"
api_key: "local-key"
model: "qwen2.5-vl"
Это один из самых чистых операторских ходов во всей системе:
Используйте основную модель премиум-класса для важных задач, а второстепенные задачи при необходимости перекладывайте на более дешевую или локальную инфраструктуру.
Вывод: вспомогательная маршрутизация в Hermes намеренно проста. Эффективность достигается за счет многократного использования одного и того же шаблона в различных слотах для побочных задач.
Какие задачи должны оставаться дешевыми
Вот где можно сэкономить. Не каждая вспомогательная задача требует премиум-модели. На самом деле большинство из них не требуют.
Лучшие кандидаты для более дешевой/быстрой маршрутизации
- сжатие
- сессионный поиск
- skills_hub
- одобрение
- flush_memories
- большая часть web_extract, в зависимости от требований к качеству
Для выполнения этих задач часто требуется:
Обычно им не требуется вся мощь вашей самой дорогой модели логического вывода.
Вот почему здесь так хорошо приживаются дешевые и быстрые модели, в том числе местные.
Если вы активно используете Hermes для написания кода или проведения исследований, в первую очередь я бы проверил, как работает сжатие. Именно такое повторяющееся фоновое действие может незаметно превратиться в обузу.
Вывод: оптимизация с наибольшей окупаемостью инвестиций обычно не связана с вашей основной моделью. Это повторяющаяся вспомогательная задача, которую вы почти не замечаете.
Какие задачи требуют более тщательного выбора модели
Не все вспомогательные задачи следует решать с помощью самого дешевого варианта. Vision — самое очевидное исключение.
Видение отличается от реальности, потому что дело не только в стоимости. Дело еще и в возможностях.
Hermes использует вспомогательную маршрутизацию для:
Это значит, что визуализация часто требует особого подхода к выбору модели. Возможно, стоит потратиться на мощную мультимодальную модель, даже если в других областях вы экономите на всем.
Веб-экстракция может быть двусторонним процессом
Если вы используете Hermes для проведения большого количества исследований, извлечение данных из интернета может оказаться важнее, чем кажется на первый взгляд.
Слабый обобщающий механизм может:
- сгладить нюанс
- мисс предостережения
- искажать технические претензии
- снижение доверия к конечным результатам
Так что если одна вспомогательная задача стоит чуть дороже для операторов, занимающихся масштабными исследованиями, то это может быть web_extract.
Сжатие — один из самых эффективных способов снижения затрат, но оно также важно для качества передачи речи. Если сделать сжатие слишком слабым, качество передачи контекста может ухудшиться.
Это значит, что сжатие данных — это, как правило, самая эффективная область для оптимизации, но не стоит подходить к ней безрассудно.
Вывод: дешево — не значит правильно. Чтобы добиться успеха, нужно соотносить качество модели с чувствительностью задачи.
Практичная и недорогая установка
Если бы мне нужна была простая и разумная настройка Hermes с учетом бюджета, я бы сделал что-то вроде этого:
Используйте премиум-модель для реального общения с агентом:
Вспомогательные значения по умолчанию
- сжатие > дешевый, но компетентный сумматор
- session_search > дешевый быстрый сумматор
- одобрение > дешевый классификатор
- skills_hub > дешевая быстрая модель
- flush_memories > дешевый структурированный экстрактор
Настройте параметры самостоятельно, если вам важны скриншоты, интерфейсы или качество изображения.
Далее рассмотрим локальную маршрутизацию
Если у вас уже есть локальная конечная точка, совместимая с OpenAI, то вспомогательные задачи — один из самых безопасных и эффективных способов ее использования.
Таким образом, вы получаете поэтапное внедрение:
- сохраните основную модель премиум-класса
- удешевляют часто выполняемые вспомогательные задачи
- отдельное видение, если необходимо
- перенесите выбранные вспомогательные задачи в локальную инфраструктуру позже
Это гораздо проще, чем пытаться за один раз перенести весь стек Hermes на локальные модели.
Вывод: вспомогательные модели — это самый простой вариант для оптимизации без ущерба для основного функционала Hermes.
Фреймворк, достойный сохранения
Лестница настройки вспомогательной модели Hermes
- Вы новичок в Hermes
- ваши затраты невелики
- вы еще не знаете, какие второстепенные задачи преобладают в вашей работе
Уровень 2 = работа с рецидивистами
Это наиболее вероятные места для спокойного времяпрепровождения.
Уровень 3 = Раздельное наблюдение
Настройте распознавание отдельно, если для вас важны скриншоты, проверка изображений или мультимодальное качество.
Уровень 4 = выполнение некоторых вспомогательных задач на местах
Используйте base_url для локальных/самостоятельных конечных точек, совместимых с OpenAI, для часто выполняемых задач с низким уровнем риска.
Уровень 5 = пересмотр качества после экономии
Не стоит просто оптимизировать затраты. Проверьте, не ухудшились ли показатели сводок, извлечения данных из памяти или визуального анализа.
Вывод: настраивайте вспомогательные модели поэтапно. Сначала обеспечьте видимость, затем экономию, а потом уже специализацию.
Последняя мысль
Если вы оптимизируете только основную модель, то упускаете более интересную часть возможностей Hermes.
Задача оператора — не «выбрать самую умную модель».
Используйте дорогостоящую модель только там, где действительно важен дорогостоящий интеллект.
Hermes теперь предоставляет вам более чистый путь для этого через hermes model > Configure auxiliary models ... , а также согласованный шаблон конфигурации, если вы хотите настроить все напрямую.
Это значит, что вы можете сохранить премиум-подписку там, где она действительно нужна, и перестать платить по премиум-тарифу за фоновые процессы, которые и так должны были быть бесплатными.