Запуск ИИ агента Hermes с бесплатным API
Недавно заинтересовал ai agent hermes, очень много тулзов и скиллов из коробки, а так-же удобный gateway в телеграм бота.
Но вопрос в токенах llm, бедные студенты не имеют много денег, где взять столько подписок или токенов для простой рутины.
Но наткнулся на один интересный репозиторий гита, а именно:
https://github.com/y13sint/FreeQwenApi
Но он старый и не обновляется, а вышли новые модели. Поискав интересные форки наткнулся на это:
https://github.com/ForgetMeAI/FreeQwenApi
https://github.com/ForgetMeAI/FreeDeepseekAPI
Поддерживает новые модели Qwen, генерацию картинок\видео, а так-же использует почти безлимитные токены QwenChat.
А так-же DeepSeek v4 и другие модели DS (Далее DS\QC)
Приведу пример в DS моделями + Hermes AI Agent
Установка FreeDeepSeekAPI
Сначала устанавливаем себе NodeJS с официального сайта и ставим его
Далее создадим директорию, куда будем клонировать гит репозиторий
В нее мы клонируем репозиторий с API DS
git clone https://github.com/ForgetMeAI/FreeDeepseekAPI
Далее переходим в наш склонированный репозиторий и действуем по инструкциям с гитхаба
Для авторизации вводим
npm run auth
У нас скачаются зависимости, а так-же браузер для авторизации в DS, далее у вас откроется меню, где нужно выбрать 1 пункт. У вас откроется браузер и в нем надо зайти в ваш аккаунт DS
После авторизации запускаем наш прокси
npm start
http://localhost:9655
Проверить работу прокси можно так:
curl http://localhost:9655/v1/models
Установка Hermes AI Agent
Hermes агент нужен нам для нормального взаимодействия с нашим API DeepSeek,
Устанавливаем агента с их официального гита командой:
curl -fsSL https://hermes-agent.nousresearch.com/install.sh | bash
После установки перезапустите свой баш и запустите агента
hermes
У вас откроется меню с выбором, выбираем второй пункт
В следующем меню выбираем пункт "Custom endpoint"
У вас создадутся конфиг и env файлы, далее мы вводим нашу ссылку к API из первого нашего пункта. Далее в меню у нас выбор бекенда, для начала оставим local, потом можете поменять
Далее у вас откроются настройки вашего gateway, выбирайте телеграм
Выбираем второй пункт, у нас попросят BotToken. Создадим нашего бота в @BotFather и скопируем токен.
Далее переходим в бота @ и копируем наш UserID, он нужен для того, чтобы бот отвечал только вам
Далее у нас открывается меню, где мы выбираем тулзы для нашего агента, оставляйте то, что вам нужно
Далее выбор браузера, выбираем локальный, далее можно будет сменить
Все, вы можете зайти в hermes и протестировать
Возможно gateway у вас не настроится, вы можете настроить его еще раз через команду:
Делаем все так-же как и раньше и тестируем
