February 17, 2024

State of the art, или как одна сеть убивает двух зайцев одним выстрелом

В конечном счёте победит не тот, кто предоставит кучу новшеств, а тот, кто предоставит станок для их создания...

Со временем тренды меняются всё быстрее, поэтому многие профессии крайне требовательны к постоянному изучению теории на фундаментальном уровне. Без этого слишком велик риск отстать от ритма реальности.

К искусственному интеллекту/машинному обучению (дальше в основном буду написать данные термины в виде аббревиатуры - ИИ/МО) интерес у меня появился ещё в университете. Тогда, в 2018-2019 годах тема ИИ была не настолько хайповой. Это сегодня мы живем в реальности, где ИИ решает множество проблем и задач на каждом шагу, которые раньше для человека заняли бы часы, дни или месяцы. Развитие этой технологии привело к абсолютно новым стандартам для передовых компаний для их выживания и прогресса.

А вот что касается трейдинга, к более решительным действиям в этом направлении я перешел относительно недавно, и обнаружил для себя огромный спектр применений. От всевозможных протоколов для безопасного обмена информацией до GameFi и мемкойнов - все это было нечто новым.

С такими находками для меня не было неожиданностью применение ИИ в крипте. Это как совместный концерт личного оркестра Ханса Циммера и The Weeknd - овердофига хайпово и эффектно.

Но среди всех имеющихся на данный момент сетей особенно сильно выделяется сеть Bittensor, которая имеет все шансы дать самое "демократичное" решение для сферы ИИ, одновременно поднимаясь на высоты блокчейн-проектов в поисках своего места рядом с Bitcoin и Ethereum.

В статье я бы хотел рассказать про данную сеть одновременно как человек из сферы ИИ и как [почти]трейдер. Надеюсь данная статья будет для вас хорошей исходной точкой для изучения сети Bittensor.

В данной статье:

А что такое Искусственный Интеллект?

Обычному трейдеру все это было бы не интересно, но для человека, который рассматривает варианты для более длительного удержания (то есть по факту инвестирования), важно получить ответ на вышеуказанный вопрос. Ведь без этого Bittensor и его токен $TAO можно считать просто очередным альткойном...

Вообще ИИ - вещь очень комплексная. Если обобщить всевозможные обозначения, то можно сформулировать всё в одном предложении:

Искусственный интеллект - это всевозможные способы имитирования поведения и функционала человеческого разума во всех направлениях - творчество, работа, эмоции и т.д..

Что касается машинного обучения, то тут дела обстоят менее абстрактно, ибо уже во многих вопросах присутствуют ясные рациональные решения, а обобщенно можно сформулировать так:

Машинное обучение - это способ непрямого решения задач с помощью систем, которые обучаются и развиваются на основе полученных ими данных.

На глобальном уровне в ИИ много абстрактного, а передовые лица сферы решают задачи путем МО. И поэтому сейчас ИИ и МО в большинстве случаев имеют одинаковый смысл: всё сводится к задачам МО. Да, всякие ChatGPT и Midjourney, рекомендательные системы поисковых систем, соцсетей и музыкальных приложении: всё это работает с помощью моделей, которые заранее обучались на огромных базах данных.

Щепотка технического большими ладошками

Давайте сделаем одно обозначение исходя из всего, что я представил выше. С этого момента под "ИИ инструменты" почти всегда буду подразумевать разные решения, полученные путем МО.

А сейчас давайте чуть чуть углубляться в техническую реализацию МО. Для начала, разберем термин.

Машинное обучение - состоит из слов "машина" и "обучение", то есть обучение с помощью [вычислительных] машин. А если вспомните технические моменты про компьютеры, то наверняка вспомните про 0 и 1 ("нули" и "единички"), бинарную систему, логические операции "и" и "или", и т.п.. Так вот, любая вычислительная система или техника из нашей повседневной жизни, которая работает на процессорах, или на обыкновенных микросхемах, работает с бинарной системой (про квантовые компьютеры знаю, но они ещё не в нашей реальности, надеюсь скоро). Компьютеры, телефоны, бытовая техника, БУД-ы машин, все это базируется на таких вот операциях с "нулями" и "единичками".

Разница состоит в архитектуре всех этих процессов. Не буду углубляться в эту тему настолько сильно, нас здесь интересуют компьютеры.

Старые компьютеры сначала справились с логическими операциями, потом с арифметическими, а потом все это вышло на новый уровень: на базе логических операций начали работать почти все электронные системы из нашей повседневной жизни. Известные нам арифметические операции так же представляются с помощью бинарных операций.

Для компьютеров же, все началось с перфокарт, потом появились процессоры и накопители, потом они стали более сложными и объемными, и так далее. К обычным CPU со временем подключились GPU - графические процессоры.

Если просто прочитать название, то можно предположить, что графические процессоры предназначены для обработки графических процессов - моделирование, анимации, рендеринг, игры и т.д.. Фишкой таких процессоров стало то, что они выполняли больше операций параллельно, засчет чего решались вопросы оптимизации. Если вы хоть раз играли в продвинутую компьютерную игру последнего десятилетия на каком-нибудь среднем компьютере и на каком-нибудь специализированном, игровом, то вы на практике ощущали эффективность работы графических процессоров.

С машинами разобрались, давайте вернемся к МО.

Так вот, как мы уже поняли из термина, машинное обучение подразумивает непрямое получение решения задач с помощью систем, которые обучаются и развиваются на основе полученных ими данных. И технически это реализуется на вычислительных мощностях, а как вы уже поняли, все это приводится к математическим и логическим операциям. Нас тут интересует первый разряд, второй и так есть на базе, это не будет меняться даже с появлением квантовых компьютеров.

Те люди, которые хоть как то изучали теорию МО, ну или хоть разок заглядывали в эту сферу, скорее всего заметили требования к знаниям линейной алгебры и статистики для разработчиков ИИ. Да, вся наука и практика МО базируется на этих двух направлениях. Среди них фундаментом для технической реализации является линейная алгебра, а статистика является методом обобщенного представления для конечного решения.

Линейная алгебра наука комплексная, поэтому не буду углубляться, нам отсюда нужны в основном операции с матрицами, в частности - умножения матриц.

Так, в МО без структурированных данных никак, а любую такую структуру по факту нужно потом и привести в матричное представление. Когда эти задачи выполнены, все что остается для обучения - это провести кучу операции с матрицами.

Делаются эти операции циклами, этапами, и невозможно представить сколько времени понадобилось бы человеку для их вычисления вручную.

Чтобы не делать очередной исторический экскурс, просто скажу, что нейросети появились в 1950-ых, и с тех пор, как сам и понимаете, технологии развивались все быстрее и быстрее. Чем связаны все те вещи, которые я рассказал ранее? А тем, что все эти направления со временем стали на порядок сложнее. А с этим появилась ситуация, когда одна сторона имела проблему по мощностям, производительности, а вторая сторона - решение.

Их столкновение произвело настолько сильный взрыв, с которым по масштабу может соревноваться разве что водородная бомба.

Графические процессоры своей архитектурой стали самым гениальным решением для обучения крайне сложных вычислительных задач в машинном обучении. Если вы сейчас просто немного поковыряетесь во всяких общедоступных скриптах, и сделаете умножение двух рандомных матриц с размером 100x100 на мощностях CPU и GPU по отдельности, и измерите время выполнения обеих умножении, то получите просто удивительную разницу.

Тут давайте сделаем обобщение всего, что я описал выше:

В современной реальности никакая серьезная компания или научная группа не сможет справиться с поставленной задачей в коротких сроках без мощностей...

С одной стороны это гонка за продвинутость, а с другой - борьба за оптимизацию и доли секунд.

Чисто технически все ясно, а в реальности все реализовано более разнообразно.

Передовые компании, такие как Amazon и Google, которые имеют огромные вычислительные мощности и ресёрч-команды, так же предоставляют эти вычислительные мощности облачным путем, как "дешевую альтернативу". То есть, если ты не можешь себе позволить несколько видеокарт, "арендуешь" их видеокарты (на деле там более сложные процессоры, но по факту они базированы на той же архитектуре), платишь типа «небольшие» деньги и продвигаешь обучение своей модельки.

У меня подобный опыт был с Google Colaboratory. Если запустить обучение одной средненькой модельки на бесплатных мощностях, эти мощности закончатся очень быстро. Если сделать то же самое с нового аккаунта (иначе говоря - абьюзить), эти мощности закончатся в разы быстрее, ибо Google подозревает, что таким образом люди майнят их мощности. А исходя из опыта разных-ресёрч команд, такие сервисы стоят весьма дорого для полноценных проектов. Дешевле купить мощности для своего постоянного пользования.

И так, закончу про это все такими обобщениями:

  • Искусственный интеллект и машинное обучение требуют значительных вычислительных мощностей для получения хороших решений,
  • Корпорации предлагают свои вычислительные мощности для малых комманд,
  • Такие решения не дешевые, и всегда лучшей идеей будет найти альтернативы, если конечно самому не покупать и собирать "суперкомпьютер".

Proof-of-Work и головная боль (не всегда)

Уделять внимание техническим деталям крипты в этом тексте не имеет смысла. Тут для нас важен разве что Proof-of-Work. Там тоже идут огромные потоки вычислительных процессов, и соответственно там тоже - чем выше мощности, тем лучше. А выше они как раз у GPU (которые, между прочим, потребляют много энергии при майнинге), но они дороги. Как решение сейчас актуальны ASIC-майнеры, но с точки зрения техники, окупаемость оправдана только с большим количеством мощностей.

Из-за этого традиционный майнинг для большинства не привлекателен, попросту неактуален. Но всегда хочется, чтобы это было оправданно. А как это можно устроить? Да очень просто: с более удобными критерями для вознаграждения. А для тех, кто желает стать частью чего-то большего, созданием ценностей.

Сказать что Proof-of-Work не нужен я не осмелюсь, ибо уверен, что в будущем серьезные вычислительные мощности будут решать огромное количество вопросов.

Как мне кажется, с каждым днем мы всё ближе к идеальному, наиболее правильному применению Proof-of-Work. Когда это будет - точно не могу сказать, но считаю что к этому нужно быть готовым уже сейчас.

Столкновение современных титанов

Давайте по быстрому пройдемся по выявленным нюансам по ИИ / МО и блокчейнам.

По ИИ / МО стоит уделить внимание следующим моментам:

  • Для обучения моделей необходимы значительные вычислительные мощности,
  • Можно купить GPU и более продвинутые мощности, но они не каждому по карману,
  • Облачные альтернативы от ИТ-гигантов тоже доступны не каждому,
  • В процессе обучения моделей выполняются математические операции, которые занимают огромное время и потребляют значительные ресурсы.

Что касается к блокчейнам и Proof-of-Work:

  • Взять несколько GPU или ASIC-майнеров и майнить токены не выгодно, окупаемость будет слишком долгой,
  • В процессе майнинга выполняются математические операции, которые тоже занимают огромное время и потребляют значительные ресурсы (да, при майнинге выполняются иные операции, и нацелены они на то чтобы образовать очередной блок и получить за это награду),
  • Система вознагражения не всегда хорошая.

Представьте, например, альтернативную реальность, где в начале 1900-ых Генри Форд и Уильям Крапо Дюрант объединяются для создания совместного бренда автомобилей. Тогда мир увидел бы самый успешный бренд начала 20-го века, ибо Форд был превосходным промышленником, а Дюрант - торговцем. Первый умел производить, второй умел реализовать (отступление: в современности такой практики много, я просто привел самый явный пример).

Теперь представьте такую же реальность для ИИ/МО и Блокчейна. Вы получите то, примером чего является сеть Bittensor.

Bittensor

Bittensor, основанный в 2019 году исследователями в области искусственного интеллекта Алой Шаабаной и Джейкобом Стивсом, изначально задумывался как парачейн Polkadot, но в марте 2023 года сделал стратегический поворот в сторону разработки собственного блокчейна, стремясь использовать криптовалюту как механизм для стимулирования глобальной сети узлов машинного обучения, облегчая децентрализованный подход к разработке искусственного интеллекта. Позволяя этим узлам совместно обучаться и развиваться, Bittensor вводит новую парадигму, в которой интеграция инкрементных ресурсов усиливает коллективный интеллект сети, умножая вклад отдельных исследователей и моделей.

Архитектура Bittensor разработана для поддержки надежной экосистемы искусственного интеллекта через децентрализованную сеть:

  • Слой майнеров (Miner Layer): Этот слой является сердцем инноваций, основанных на искусственном интеллекте в Bittensor, где майнеры размещают и запускают разнообразные модели ИИ.
  • Слой валидаторов (Validator Layer): Валидаторы играют ключевую роль в поддержании целостности и консенсуса блокчейна, обеспечивая работу сети в соответствии с установленными правилами.
  • Корпоративный слой (Enterprise Layer): данный слой использует возможности ИИ сети для разработки конечных продуктов.
  • Потребительский слой (Consumer Layer): Заключительный слой обслуживает конечных пользователей и организации, предоставляя доступ к решениям и услугам, созданным сетью.
Источник: Revelo Intel

Bittensor действует как оракул, соединяя блокчейн-системы с внешними данными. Таким образом, он позволяет технологиям искусственного интеллекта и блокчейна объединяться и создавать инновационные решения.

Экосистема Bittensor развивается благодаря своей уникальной динамике подсетей, где каждая подсеть предлагает различные вознаграждения, подходящие для большого разнообразия приложений искусственного интеллекта. Такая структура способствует разнообразию и новым идеям, обслуживая области, которые могут быть упущены крупными компаниями ИИ. Единая экосистема токена TAO поддерживает эти действия, предоставляя владельцам токенов значительное влияние на развитие ИИ в сети.

Архитектура Bittensor. Источник: Bittensor

Bittensor связывает два ключевых типа участников в своей сети:

  • Валидаторы: отвечают за поддержание целостности блокчейна, обеспечивая соответствие транзакций и операций правилам сети,
  • Майнеры вне блокчейна (Off-chain ML Miners): они предоставляют услуги искусственного интеллекта, размещая и запуская модели ИИ, которые выполняют различные задачи, от анализа данных до генерации инсайтов.

Этот мост обеспечивает безопасное и эффективное сотрудничество между операциями в блокчейне и сервисами ИИ.

Источник: David Atterman

Bittensor использует модель MoE (Mixture of Experts, Смесь Экспертов) для улучшения предсказаний ИИ, используя совместную работу нескольких специализированных моделей ИИ. Этот подход повышает точность и эффективность за счет объединения уникальных сильных сторон каждой модели для решения сложных задач. Это приводит к более точным и всесторонним результатам, превосходящим традиционные методы с одной моделью. Например, при генерации кода на Python с комментариями на испанском языке, языковая компетентность одной модели и экспертиза в программировании другой объединяются для предоставления превосходного решения.

Я тут упомянул про Proof-of-Work, но в указанной мною сети такого нету, ибо с такой архитектурой традиционный Proof-of-Work не нужен. ИИ сфера крайне специфичная, и там важно отфильтровать полезность разных результатов для оптимизации процессов. Все ненужное должно быть убрано. Я это больше сделал с целью наглядного представления проблем традиционного майнинга, чтобы дать понять отличие между майнерами обычными и майнерами в сети. В Bittensor по этим же причинам устроена система Proof-of-Intellignece (PoI)

Proof of Intelligence (Доказательство Интеллекта) — это способ, с помощью которого сеть Bittensor вознаграждает узлы за добавление полезных моделей машинного обучения и результатов. Это похоже на то, как блокчейн-сети используют PoW (Proof of Work, Доказательство Работы) и PoS (Proof of Stake, Доказательство Доли), но вместо решения математических головоломок узлы выполняют задачи машинного обучения, чтобы продемонстрировать свой интеллект. Если работа узла в области машинного обучения точна и ценна, у него есть больше шансов быть выбранным для добавления нового блока в цепочку и заработать токены TAO в качестве вознаграждения. Чтобы заработать вознаграждения в сети Bittensor, серверы должны не только производить ценные знания, но и получать одобрение от большинства валидаторов. Принимая этот механизм консенсуса, Bittensor стимулирует ценные вклады, способствуя сотрудничеству и обеспечивая безопасность блокчейна.

Экосистема

Экосистема Bittensor, работающая на базе собственного токена $TAO, представляет собой новаторский подход в области децентрализованного искусственного интеллекта, который выделяется уникальной структурой подсетей. Эти специализированные подсети внутри нейронной сети имеют ключевое значение для целостности и производительности экосистемы. С наличием 32 слотов для этих подсетей, Bittensor способствует созданию конкурентной, динамичной среды, необходимой для инноваций. Подсети в Bittensor — это место, где реальная ценность создается через конкуренцию и сотрудничество.

Абстрактное представление сети Bittensor. Источник: Bittensor

Блокчейн-основа этой экосистемы обеспечивает прозрачность и безопасность, в то время как API Bittensor облегчает участие, предоставляя необходимые инструменты и руководства.

Целостность экосистемы обеспечивается взаймодействиями участников - владельцев подсетей, валидаторов и майнеров. Ключевой особенностью является механизм консенсуса Yuma, которая вознаграждает токенами $TAO за вклад.

Тут стоит даже подчеркнуть, что для целостности крайне важны решения, полученные в результате партнерств. Например, недавно AIT Protocol, которые предостовляют инфраструктурные данные Web3 для аннотации и обучении ИИ моделей, объявили об интеграции их платформы в сеть Bittensor.

Токеномика (CoinGecko)

  • Максимальное количество: 21 млн $TAO,
  • Эмиссия токенов: ~256 лет,
  • Цена в момент последнего редактирования статьи: $460.48,
  • Рыночная капитализация: $3.05 млрд,
  • Полностью разбавленная капитализация: $9.69 млрд,
  • Объем в обращении: 6.62 млн $TAO.

Генерация и распределение токенов

  • $TAO генерируются путем майнинга и активностей по валидации сети, продвигающих экосистему,
  • Халвинг в сети происходит каждые 10.5 млн блоков, в планах суммарно 64 халвинга в течении 45 лет,
  • Вознагражение за каждый блок на данный момент составляет 1 $TAO/блок, примерно в каждые 12 секунды, что составляет приблизительно 7200 $TAO/день. Вознаграждение распределяется между майнерами и валидаторами.
Источник: Bittensor

Bittensor против централизованных ИИ

Про конкурентов я бы тоже хотел поговорить, но это довольно обширная тема, для которой лучше было бы написать отдельную статью. Я так и поступлю после изучения других проектов (Gensyn, Akash). Поэтому в данной статье я просто расскажу про централизованные ИИ.

Сравнение Bittensor с централизованными моделями ИИ, такими как OpenAI, которую Microsoft недавно оценила в 29 миллиардов долларов, дает ясное представление о потенциале. Децентрализованный подход Bittensor, направленный на умножение интеллекта ИИ и более широкие интеграции, представляет возможность превзойти возможности и стоимость OpenAI в случае успеха. Это открывает дискуссию об огромной потенциальной ценности Bittensor.

С помощью своего децентрализованного подхода к моделям, Bittensor позволяет моделям ИИ обмениваться знаниями и строить на открытиях друг друга, сокращая дублирование усилий. Согласно Bittensor:

"Единственное, что больше, чем Open AI или любая другая централизованная альтернатива, это все они вместе".

Источник: Bittensor
Источник: Bittensor

Bullish факторы

  • Токеномика Bittensor структурирована таким образом, чтобы поощрять практики справедливого распределения, обеспечивая согласованность стимулов среди участников сети. Ожидается, что токен $TAO будет расти экспоненциально по мере расширения базы участников сети.
  • В настоящее время примерно 88% всех токенов $TAO, находящихся в обращении, в настоящее время застейканы.
  • В целом токеномика $TAO с точки зрения эмиссии полностью идентична токеномике Биткоина ($BTC), скорость их создания со временем уменьшается, с полной остановкой, как только будет достигнут предел общего предложения. Эта стратегия будет переключать стимулы майнеров на прямые платежи за выполнение задач.
Источник: Bittensor
  • По прогнозам рынок искусственного интеллекта будет достичь капитализации в 1,8 триллиона долларов к 2030 году.
  • С момента значительных достижений в OpenAI, криптоактивы, связанные с искусственным интеллектом, показали замечательные результаты, подчеркивая растущий интерес и инвестиции в этот сектор.
  • Bittensor стремится создать самоподдерживающуюся экосистему для машинного обучения, позволяющую разрабатывать и применять модели ИИ. Это видение поддерживает основу для инноваций и практического применения в области ИИ.
  • Сеть Bittensor насчитывает более 4,000 моделей ИИ с общим числом параметров более 10 триллионов. Этот масштаб не только превосходит возможности моделй, таких как GPT-3, которая имеет 175 миллиардов параметров, но также подчеркивает значительный масштаб и разнообразие в разработке ИИ у Bittensor.

Bearish факторы

  • Несмотря на то что Bittensor не подвергается широкой критике, у него есть свои недостатки. Некоторые ставят под сомнение высокую оценку, учитывая простоту его кода. Другие, такие как Кайл, основатель Multicoin VC, конкретно критикуют способ, которым валидаторы TAO выбирают лучших майнеров, утверждая, что без широкого контекста применения (в отличие от ChatGPT), валидаторы не в состоянии судить. Он предлагает, что необходима более тесная связь между пользовательским интерфейсом и обновлениями модели.
  • Децентрализованный ИИ обладает большим потенциалом, но находится на стадии, где еще многое предмет спекуляций и сопряжено с рисками. Исследования проектов в области искусственного интеллекта показали, что многие децентрализованные платформы еще не были полностью протестированы на прочность. Они часто испытывают трудности с привлечением пользователей и в значительной степени зависят от разработчиков для поддержания их работы.
  • Еще одной значительной проблемой является ограниченный доступ к обширным источникам данных и передовому оборудованию для искусственного интеллекта, особенно по сравнению с ресурсами, доступными крупным технологическим корпорациям. Это ограничение представляет собой значительный риск для роста и эффективности платформ, подобных Bittesor.

Заключение (но не финальное)

Сфера ИИ имеет огромный спрос и пространство для развития, да и сейчас она уже крайне разнообразная. Прогнозы по рыночной капитализации к 2030 году дают возможности оценить потенциал многих продуктов сферы. Bittensor не является исключением.

Блокчейн сфера, в свою очередь, со временем все больше поддерживает свежие идеи на фундаментальном уровне, которые при этом позволяют решать задачи в других направлениях. И интеграция ИИ в фундаментальном уровне в такую сеть была вопросом времени.

Bittensor же предлагает передовое решение, которое позволяет сообществу исследователей и разработчиков по направлению машинного обучения, которое уже завоевало титул легендарного в определенных кругах, развивать экосистему совместными усилиями и создать ценности, которые будут стремиться к решению современных проблем.

Подобных проектов крайне мало, и они в основном ещё сырые. Однако мое доверие как минимум к данному проекту на высоком уровне. Этому способствуют как сообщество, так и проекты, которые выпущены и развиваются с испоьзованием сети (самый яркий пример - чат-бот Corcel).

Но, это субъективно, я не обладаю квалификацией рекомендовать инвестировать-торговать теми или иными активам, я просто представляю интересующий мне проект как человек из сферы МО и трейдер.

Нотки благодарности

Данная статья не стала бы реальностью, если бы не люди, которые каждый раз мотивируют меня двигаться дальше и изучать все новое.

Трежери - за вдохновление на постоянное изучение нового с момента начала моей пути в крипте,

Кефир - за мотивацию и такой же интерес к подобным проектам, а так же наставничество при написании данной статьи.

Полезности

Greythorn - компания по менеджменту активов в Мелбурне, имеет собственные статьи про данный проект и не только. Без их материалов многое у меня не получилось быстро понять.

TAO Thread от Dread Bongo на английском, где интуитивно представляется суть сети Bittensor.