APTOS
September 6, 2022

Мониторинг - Aptos


Данная инструкция о том, как настроить мониторинг для Aptos с помощью Prometheus, Node Exporter и Grafana

Prometheus является открытой СУБД, написанной на языке Go. Интересной особенностью Prometheus является то, что он сам вытягивает метрики с заданного множества сервисов

Node Exporter - это сервис, задача которого заключается в экспорте информации о машине в формате, понятном Prometheus. На самом деле для Prometheus существует много других exporter’ов, но нам отлично подойдет Node Exporter

Grafana представляет собой открытый веб-фронтенд к различным time series СУБД, таким, как Graphite, InfluxDB, и, конечно, Prometheus. С помощью Grafana мы сможем наблюдать красивые графики через наш браузер. Характерно, что у Prometheus есть и собственный веб-интерфейс, но даже сами разработчики Prometheus рекомендуют использовать Grafana

Сервер с нодой для Node Exporter

Node Exporter мы установим на сервер с нодой, фулнодой и также на сервер с Prometheus, чтобы наблюдать за всеми серверами при необходимости. В целях безопасности создадим учетную запись node_exporter

# используем параметры --no-create-home и --shell /bin/false, 
# чтобы этот пользователь не мог войти на сервер
sudo useradd --no-create-home --shell /bin/false node_exporter

Вы можете найти последние двоичные файлы вместе с их контрольными суммами на странице загрузки Prometheus

cd && \
wget https://github.com/prometheus/node_exporter/releases/download/v1.3.1/node_exporter-1.3.1.linux-amd64.tar.gz && \
tar xvf node_exporter-1.3.1.linux-amd64.tar.gz

# скопируем бинарные файлы в /usr/local/bin
sudo cp node_exporter-1.3.1.linux-amd64/node_exporter /usr/local/bin
sudo chown node_exporter:node_exporter /usr/local/bin/node_exporter

# удаляем ненужные файлы
rm -rf node_exporter-1.3.1.linux-amd64.tar.gz node_exporter-1.3.1.linux-amd64

Создаем сервисный файл

sudo tee /etc/systemd/system/node_exporterd.service > /dev/null <<EOF
[Unit]
Description=Node Exporter
Wants=network-online.target
After=network-online.target

[Service]
User=node_exporter
Group=node_exporter
ExecStart=/usr/local/bin/node_exporter

[Install]
WantedBy=default.target
EOF
sudo systemctl daemon-reload && \
sudo systemctl enable node_exporterd && \
sudo systemctl restart node_exporterd && sudo systemctl status node_exporterd
#sudo journalctl -u node_exporterd -f -o cat

Проверяем, что метрики отдаются

curl 'localhost:9100/metrics'

Теперь самое время проверить метрики в браузере

# узнаем адрес и вставляем в браузер
echo -e "\033[0;32mhttp://$(wget -qO- eth0.me):9100/\033[0m"
# http://108.108.108.108:9100/
Нажимаем на Metrics
Видим, что все отлично и мы получаем нужные данные, которые позже будут отображаться в Grafana

Сервер для Prometheus и Grafana

Для Prometheus и Grafana используем отдельный сервер. Можно арендовать VPS 1/2/20

Шаг 1 - Подготовка сервера

# обновляем репозитории
sudo apt update && sudo apt upgrade -y

# устанавливаем необходимые утилиты
sudo apt install curl build-essential git wget jq make gcc tmux htop nvme-cli pkg-config libssl-dev libleveldb-dev tar clang bsdmainutils ncdu unzip libleveldb-dev -y

File2Ban - подробнее здесь

# устанавливаем и копируем конфиг, который будет иметь больший приоритет
apt install fail2ban -y && \
cp /etc/fail2ban/jail.conf /etc/fail2ban/jail.local && \
nano /etc/fail2ban/jail.local
# раскомментировать и добавить свой IP: ignoreip = 127.0.0.1/8 ::1 <ip>
systemctl restart fail2ban

# проверяем status 
systemctl status fail2ban
# проверяем, какие jails активны (по умолчанию только sshd)
fail2ban-client status
# проверяем статистику по sshd
fail2ban-client status sshd
# смотрим логи
tail /var/log/fail2ban.log
# останавливаем работу и удаляем с автозагрузки
#systemctl stop fail2ban && systemctl disable fail2ban

Шаг 2 - Создание пользователя Prometheus

В целях безопасности создадим учетную запись prometheus

# используем параметры --no-create-home и --shell /bin/false, 
# чтобы этот пользователь не мог войти на сервер
sudo useradd --no-create-home --shell /bin/false prometheus

# создадим необходимые каталоги для хранения файлов и данных Prometheus
sudo mkdir /etc/prometheus
sudo mkdir /var/lib/prometheus

# установим права пользователя и группы в новых каталогах для пользователя prometheus
sudo chown prometheus:prometheus /etc/prometheus
sudo chown prometheus:prometheus /var/lib/prometheus

Шаг 3 - Установка Prometheus

Вы можете найти последние двоичные файлы вместе с их контрольными суммами на странице загрузки Prometheus

cd && \
wget https://github.com/prometheus/prometheus/releases/download/v2.38.0/prometheus-2.38.0.linux-amd64.tar.gz && \
tar xvf prometheus-2.38.0.linux-amd64.tar.gz
# скопируем бинарные файлы в /usr/local/bin
sudo cp prometheus-2.38.0.linux-amd64/prometheus /usr/local/bin/
sudo cp prometheus-2.38.0.linux-amd64/promtool /usr/local/bin/

# установим права собственности пользователя и группы на бинарные файлы
sudo chown prometheus:prometheus /usr/local/bin/prometheus
sudo chown prometheus:prometheus /usr/local/bin/promtool

# скопируем consoles, console_libraries и prometheus.yml в /etc/prometheus
sudo cp -r prometheus-2.38.0.linux-amd64/consoles /etc/prometheus
sudo cp -r prometheus-2.38.0.linux-amd64/console_libraries /etc/prometheus
sudo cp prometheus-2.38.0.linux-amd64/prometheus.yml /etc/prometheus/

# установим права собственности пользователя и группы в каталогах для пользователя prometheus
# флаг -R гарантирует, что право собственности также будет установлено для файлов внутри каталога
sudo chown -R prometheus:prometheus /etc/prometheus

# удаляем ненужные файлы
rm -rf prometheus-2.38.0.linux-amd64.tar.gz prometheus-2.38.0.linux-amd64

# проверим версии
prometheus --version
promtool --version

Шаг 4 - Настройка Prometheus

Теперь нам необходимо настроить prometheus.yml и добавить в него 1 или несколько параметров в зависимости от количества серверов и используемых нод

Предупреждение: конфигурационный файл Prometheus использует формат YAML, который строго запрещает табуляцию и требует двух пробелов для отступа. Prometheus не запустится, если файл конфигурации неправильно отформатирован


Info: Prometheus использует job_nameдля обозначения экспортеров в запросах и на графиках, поэтому обязательно заполняем данное значение

В некоторых случая, к примеру для APTOS необходимо также указывать chain:

И, поскольку Prometheus экспортирует важные данные о себе, которые можно использовать для мониторинга производительности и отладки, то переопределимscrape_intervalс 15 секунд до 5 секунд для более частых обновлений

Наконец, Prometheus использует директивы static_configsиtargets, чтобы определить, где работают экспортеры. Поскольку этот конкретный экспортер работает на том же сервере, что и сам Prometheus, мы можем использовать localhostвместо IP-адреса вместе с портом по умолчанию, 9090

Правим /etc/prometheus/prometheus.yml, указывая, где искать Node Exporter

sudo nano /etc/prometheus/prometheus.yml

Теперь примерный файл конфигурации должен выглядеть следующим образом:

global:
  scrape_interval: 15s

scrape_configs:
# Используем параметры ниже для мониторинга за сервером с prometheus
  - job_name: "prometheus"
    scrape_interval: 5s
    static_configs:
      - targets: ["localhost:9090","localhost:9100"]
        labels:
          label: "prometheus"
# Используем параметры ниже для мониторинга за нодой APTOS
# 9100 — это prometheus-node-exporter, 9101 — порт метрик APTOS по умолчанию
# Добавьте IP-адреса вашего валидатора и фулноды. Нет необходимости в дополнительных тегах
  - job_name: "aptos"
    static_configs:
      - targets: ["<IP_VALIDATOR>:9100","<IP_VALIDATOR>:9101","<IP_FULLNODE>:9100","<IP_FULLNODE>:9101"]
        labels:
          chain: 'ait3'
# Используем параметры ниже для мониторинга других серверов (раскомментировать)
#  - job_name: "server1COSMOS"
#    static_configs:
#      - targets: ["<Node_IP>:36660"]
#        labels:
#          label: "1"

После завершения настройки мы готовы протестировать Prometheus, запустив его в первый раз.

Создаем сервисный файл

sudo tee /etc/systemd/system/prometheusd.service > /dev/null <<EOF
[Unit]
Description=Prometheus
Wants=network-online.target
After=network-online.target

[Service]
User=prometheus
Group=prometheus
Type=simple
ExecStart=/usr/local/bin/prometheus \
    --config.file /etc/prometheus/prometheus.yml \
    --storage.tsdb.path /var/lib/prometheus/ \
    --web.console.templates=/etc/prometheus/consoles \
    --web.console.libraries=/etc/prometheus/console_libraries

[Install]
WantedBy=multi-user.target
EOF
systemctl daemon-reload && \
systemctl enable prometheusd && \
systemctl restart prometheusd && sudo systemctl status prometheusd
#journalctl -u prometheusd -f -o cat

Проверяем, что метрики отдаются

curl 'localhost:9090/metrics'

Теперь самое время проверить информацию в браузере

# узнаем адрес и вставляем в браузер
echo -e "\033[0;32mhttp://$(wget -qO- eth0.me):9090/\033[0m"
# http://108.108.108.108:9090/
Переходим в Targets

Шаг 5 - Установка Grafana

Вы можете найти последние двоичные файлы вместе с их контрольными суммами на странице загрузки Grafana

sudo apt-get install -y adduser libfontconfig1 && \
wget https://dl.grafana.com/enterprise/release/grafana-enterprise_9.1.3_amd64.deb && \
sudo dpkg -i grafana-enterprise_9.1.3_amd64.deb
systemctl daemon-reload && \
systemctl enable grafana-server && \
systemctl restart grafana-server && sudo systemctl status grafana-server

Cмотрим логи

sudo journalctl -u grafana-server -f

Теперь самое время перейти в браузер

# узнаем адрес и вставляем в браузер
echo -e "\033[0;32mhttp://$(wget -qO- eth0.me):3000/\033[0m"
# http://108.108.108.108:3000/
При первом открытии необходимо ввести логин и пароль
  • Логин - admin
  • Пароль - admin
Система сразу просит придумать нам новый пароль. Не пропускайте это!!!
Переходим в Data sources, чтобы настроить Grafana

Теперь нам необходимо указать в графе URL адрес к своему серверу с Prometheus. Если Prometheus находится на том же сервере, что и Grafana, то задаем http://localhost:9090 и сохраняем настройки

При правильном подключении отобразится зеленая галочка

Теперь самое интересное и нам необходимо загрузить json файлы для нашего дашборда. Для этого необходимо знать ID json файла или скачать его у кого-то или создать самому

  • Найти json по душе можно здесь
  • Скачать json для Aptos можно здесь

Если у нас есть скачанный json, то загружаем его самостоятельно

Наслаждаемся результатом