Dria
Открываем терминал и выполняем:
sudo apt update && sudo apt install -y curl git make jq build-essential gcc unzip wget lz4 aria2 tmux
curl -fsSL https://dria.co/launcher | bash
curl -fsSL https://ollama.com/install.sh | sh
tmux
dkn-compute-launcher start
Далее нужно выбрать модель.
Для серверов без GPU рекомендуется выбирать лёгкую модель, которая при этом получает задания.
Посмотреть доступные модели можно на главной странице:
https://dria.co/edge-ai
На данный момент для сервера без GPU я использую модель: gemini-1.5-flash.
В меню выбираем пункт Gemini, а затем — нужные модели из списка.
Нажимаем пробел (Space)возле нужных моделей, затем Enter.
Я выбрал три модели: gemini-1.5-flash, gemini-1.5-pro и gemini-2.0-flash — сервер 8CPU отлично справляется с их запуском.
После этого система начнёт запрашивать API-ключи от различных сервисов — их перечень зависит от выбранной вами модели.
JINA - https://jina.ai/api-dashboard/key-manager
Serper - https://serper.dev/dashboard
Gemini - https://aistudio.google.com/app/apikey
Далее начнётся тестирование модели и её запуск.
Если вашему серверу хватит ресурсов, нода успешно запустится, и вы увидите логи в терминале.
Спустя некоторое время в дашборде начнут отображаться начисленные поинты.
Если у вас мощный сервер, вы можете запускать сразу несколько моделей — это увеличит количество получаемых заданий и, соответственно, поинтов.
Например, модель qwen2.5:7b-instruct-fp16 требует GPU с 16 ГБ видеопамяти, но при этом обрабатывает около 70% всех заданий в сети и приносит больше поинтов.
Оставляйте комментарии и подписывайтесь на мой Telegram-канал, где я отвечаю на любые ваши вопросы:
👉 https://t.me/SotochkaZela