Inference (Kuzco). Гайд по установке ноды

Полезные ссылки:

• Официальный гайд + требования
• Twitter + Discord
• Аренда VDS на Vast.ai или на OctaSpace

1. Подготовка VDS сервера

Арендуем сервер

Минимальные требования для ноды следующие:

Майнить будем на GPU, список поддерживаемых виде также есть в офф документации. По цене / производительность наиболее привлекательно выглядят RTX 3090 (24Gb), поэтому их и арендуем на Vast.ai, OctaSpace или любом другом сервисе.

Разберем, в т.ч. для будущих нод, установку VDS через Vast.ai. Нода простая, а тут сервера чуть дещевле.

• Регистрируемся на сайте и пополняем кошелек. Пополнение в крипте доступно.
• На панели Templates выбираем шаблон PyTorch (Vast) и жмем кнопку Select

• в верхней части панели ставим Фильтр по нужной нам видеокарте и сортируем по цене
• дополнительно смотрим на соответствие минимальным требованиям по VRAM (16Gb+), скорости интернета (100Mbps+) и др.

• Нажимаем Rent

Настраиваем сервер

• После того как арендовали сервер, переходим в меню Instances, где будет список наших арендованных серверов
• Сгенерируй Public и Private SSH ключи (пройди Раздел Генерация SSH ниже)
• Жмем на иконку ключа на оплаченном сервере:

• Добавляем в поле NEW SSH KEY наш новый созданный Public SSH Key и нажимаем ADD SSH KEY. Окно закроется и выскочит надпись SSH KEY ADDED TO INSTANCE.

2. Настраиваем MobaXTerm терминал

Для работы с VDS серверами я предпочитаю терминал MobaXterm. Скачивайте и запускайте.

Генерация SSH ключей

- переходим в раздел Tools, MobaKeyGen (SSH key generator)

- Убедись, что снизу выбрана опция RSA (1) и нажимай Generate (2).

- Возюкай мышкой (3), чтобы сгенерировать свой уникальный ключ.

- По завершению генерации в самом верхнем поле Key (4) ты увидишь свой ключ, выдели и скопируй его.

- Нажимай Save Private Key (5) и сохрани скаченный файл в удобное место.

Заходим на сервер через Терминал

• Переходим в раздел Session (1), выбираем формат входа через SSH (2),
• Вводим IP адрес, Username = root, и Port из параметров сервера, которые нам дали на этапе генерации SHH ключей (см. раздел Генерация SSH ключей выше).
• В разделе Advanced SSH Settings ставим галочку около Use private key и в соседнем окне указываем путь до скаченного ранее Private SSH ключа.

После этого в левой боковой панели терминала создастся наша сессия, в которую можно по двойному нажатию мыши. Рабочая область будет выглядеть следующим образом:

3. Устанавливаем ноду Inference (Kuzco)

1. Пишем команду установки через официальный скрипт

curl -fsSL https://devnet.inference.net/install.sh | sh

2. Переходим на страницу devnet и регистрируем аккаунт (входим в уже зареганный) https://devnet.inference.net/register

3. Переходим в раздел Workers >> Create worker

4. Придумываем название ноды, выбираем тип CLI и жмем Create Worker

5. Жмем Launch Worker

6. Копируем команды Step 1: Install the CLI и Step 2: Run an instance of this worker (или просто оставляем эту тсраницу открытой)

7. Возвращаемся в Терминал и обновляем нужные библиотеки:

sudo apt update
sudo apt install -y screen

8. Устанавливаем CLI = Step 1: Install the CLI :

curl -fsSL https://devnet.inference.net/install.sh | sh

9. Создаем Screen сессию

screen -S kuzco

10. Запускаем Worker'a = Step 2: Run an instance of this worker (у вас будет своя команда)

inference node start --code 2b49feb7-c73a-40c9-a503-61a86527cda1

Наша нода установлена!

Для выхода из Screen сессии нажимаем комбинацию: Ctrl+A, и, не отпуская, жмем затем D. Это позволит оставить работающим процесс, запущенный в этой Screen сессии. После этого можно закрывать терминал

Для возврата в Screen сессию при следующем запуске Терминала, набираем:

screen -r kuzco

Через 3-5 минут, в разделе Workers вы увидите активный статус вашей ноды, а на вкладке My Stats начнут появляться поинты

Не забудьте проверить, что на вкладке Wallets привязан ваш Solana кошелек

В разделе Leaderboard можно чекнуть топ-200 участников по поинтам

4. Установка Оператора и делегирование стейка

4.1 Получение дропа $INT-DEV

Все кто успел привязать свой Solana кошелек до ~06 июня, начиная с 13 июня могут получить дроп $INT-DEV токенов.

Для получения дропа, прежде всего нужно активировать Solana Devnet сети в кошельке.

Переходим в Настройки >> Настройки разработчика >> включаем Режим Testnet

Для клейма дропа переходим на сайт и клеймим: https://airdrop.devnet.inference.net/

Контракт $INT-DEV: int8Wz7gp4UtncS6pnCcvUjFjAspXG4yqv1AZV3M2Xi

Также у вас на аккаунте появится 0,02 SOL devnet, а после успешного клейма останется ~0,016

Клейм дропа будет доступен до 21 июня.

4.2 Поднятие своего Оператора

Поднятие Оператора предполагает, что вы держите свою работающую ноду. Если на данном аккаунте вы НЕ держите ноду, то пропустите этот шаг и просто делегируйте $INT-DEV какому-ниудь другому Оператору.

Если поднимаете своего Оператора, то переходим в раздел Staking >> Create Operator Pool

https://devnet.inference.net/dashboard/staking/overview

На этапе создания вам может не хватить остатка тестовых SOL devnet. Кран обновляется раз в сутки, но если не хотите ждать, перешлите часть токенов с другого аккаунта где клеймили дроп и получили 0,02 SOL devnet.
Для создания Оператора, на кошельке у вас д.б. не менее 0,01 SOL devnet

При установке оператора вам предложить пройтись по 6 шагам с установкой комиссий, адреса для сбора комиссий, указанием название Оператора и т.п.

! После создания, важно делегировать свой стейк $INT-DEV в своего Оператора. По условиям, ваш стейк должен составлять не менее 10% от общего размера пула Оператора. Т.е. если вы делигировали сами в себя 100k $INT-DEV, то другие участники смогут вам делегировать максимум 900k $INT-DEV

4.3 Делегирование $INT-DEV другому Оператору

Переходим в таблицу с операторами https://stake.devnet.inference.net/operators

В поиске находим Оператора: Bit.future Team и нажимаем Stake (по правде сказать можете выбрать любого. Сумма комиссий и какие-либо иные параметры не имеют абсолютно никакой роли в рамках данного тестнета)

После делегации, здесь же на вкладке My-operators вы будете видеть всех, кому делегировали средства https://stake.devnet.inference.net/my-operators

5. Roadmap и аналитика

Согласно документации и комментариев в Discord, текущая 3-я Эпоха тестнета - финальная перед TGE. TGE обозначают как "Позднее в этом году".
В тоже время, она будет разбита на 2 секции и, возможно, будет еще бонусная 3-я секция.

Технически нас ждут еще механики стейкинга / делегации, новые алгоритмы и задачи для нод. Все это будет выражаться в количестве зарабатываемых поинтов.

В частности, среди нововведений ожидается:

5.1. Stake-Weighted Job Routing

Поинты будут начисляться с учетом механизма нормализации vRAM. Простыми словами, будет выгоднее запускать ноду на 1 GPU большой емкости vRAM, чем на нескольких в сумме дающих столько же.
Вот пример:

5.2. Dual Token System

В тестнете будет 2 типа токенов/поинтов, которыми меряется ваша активность:

1. $INT Points (Off-chain) - поинты, которые начисляются сейчас.

• Начисляются в реальном времени по мере обработки заданий
• Рассчитываются на основе выполненной вычислительной работы
• Могут начисляться за вклад, не связанный с вычислениями (помощь сообществу)
• Являются основным показателем производительности на этапе тестирования

2. $INT-DEV Tokens (On-chain)

• Распределяются ежедневно в полночь по UTC
• На основе завершения заданий с учетом веса (п.1)
• Необходимы для стейкинга, делегаций
• Существуют только в Solana Devnet и не имеют денежной ценности. Они не будут перенесены в мейннет

5.3. Solana-Based Staking Protocol

Не буду углубляться, но в общих чертах появятся пулы Операторов, Делегаторы. Токены $INT-DEV можно будет делегировать определенным Операторам и т.п.

5.4. Reputation System

Будет несколько критериев оценки качества работы ноды. В общем чем дольше и лучше работает нода - тем больше поинтов будем получать.

Выводы:

Нода не из дешевых и обойдется в ~$150/мес. Сильно не помультишь.

Я зарегал до 01 июня 5-7 аккаунтов и сейчас поставил 1 ноду на RTX 3090. Такая нода фармит 4,1m поинтов в сутки. RTX 5090 почему-то фармит по 2m поинтов в сутки. Пока