DeFi Education. Bittensor (TAO)
Требуется ли Децентрализованному Машинному Обучению Криптовалюта?
В этом году мы наблюдали заметный скачок осведомленности и практического опыта в области искусственного интеллекта, поскольку люди с различным уровнем технической подготовки по всему миру погружались в возможности генеративных инструментов для создания изображений и сложных чат-ботов.
Сегодня мы исследуем пересечение криптовалюты и ИИ, рассматривая попытки построения децентрализованного рынка машинного обучения и интеллекта. В случае успеха, децентрализованный ИИ будет находиться в руках людей, а не корпораций - принося аналогичные преимущества самохранимой, безразрешительной, открытой системе DeFi.
Как это началось: Интернет и Биткойн
Интернет получил распространение частично благодаря своему революционному "убийственному приложению": электронной почте!
Позднее, Всемирная паутина (еще один протокол, работающий на Интернете) позволила публиковать и потреблять данные в онлайне любому человеку в мире. Еще позже, только после того, как технологии сильного шифрования (криптографии) были выпущены в публичное пользование, коммерческие приложения, такие как интернет-шопинг и банковские услуги, стали доминировать в использовании интернета.
С тех пор были разработаны более сложные приложения, включая социальные медиа и возможность аренды вычислительных ресурсов (облако). Миллиарды пользователей были привлечены благодаря изобретениям, таким как смартфоны.
Биткойн имеет некоторые сходства с развитием Интернета, факт, который часто цитируют изобретатели и пропагандисты криптовалютных продуктов.
Первым "убийственным приложением" Биткойна стало безразрешительное хранение и передача ценности (без банка или другого посредника). Но чтобы обеспечить эту известную особенность, дизайн Биткойна создал что-то еще, что не так много обсуждается или признается.
Биткойн стал первым децентрализованным суперкомпьютером, который успешно автоматизировал:
- Координацию группы для работы над назначенной задачей
- Проверку правильности работы; и
- Осуществление оплаты за работу
Это изобретение может быть применено гораздо шире, чем конкретные случаи использования, связанные с платежами, смарт-контрактами или даже созданием децентрализованной финансовой системы.
Что если компьютеры могли бы назначать задачи, координировать другие компьютеры и людей для их выполнения, оценивать, какие решения лучше, и разрабатывать и внедрять схемы стимулирования для вознаграждения наиболее ценных участников?
Что если... создатель Биткойна потребовал бы от узлов выполнять полезную работу, а не рассчитывать хеши произвольных данных? Произвольная работа была возможна только благодаря новому финансовому стимулу (блок-вознаграждение), в то время как полезная работа могла бы координироваться на добровольной основе.
Примеры предыдущих проектов распределенных вычислений, достигших масштаба за счет убеждения добровольцев предоставлять свободные вычислительные ресурсы:
- GIMPS (математический проект по поиску больших простых чисел)
- SETI@home (анализ радиосигналов на предмет признаков внеземного разума)
- distributed.net (выигрыш компьютерного приза за взлом 56-битного ключа RC5)
Хотя эти задачи более полезны, чем расчет хешей произвольных данных, они не имеют большого социального или экономического значения. Инновационный шаг Биткойна заключался в предоставлении финансовых стимулов, ценность которых увеличивалась с распространением сети. Это привлекло ресурсы на масштабе, недостижимом для добровольных проектов.
Какие другие проблемы могли бы быть решены с помощью координированных, но децентрализованных усилий, опосредованных крипто-экономическими стимулирующими схемами?
Хорошо известные примеры могут быть сгруппированы под заголовком "Инфраструктура Web3" - предоставление открытого исходного кода, децентрализованной, устойчивой к цензуре альтернативы таким услугам, как облачное хранение файлов и системы доменных имен; оплачиваемых и субсидируемых с помощью утилитарных токенов. По разным причинам, которые мы исследовали в нашем платном контенте для подписчиков, эти усилия не оправдали своих обещаний.
Обучение моделей искусственного интеллекта может требовать доступа к большому количеству вычислительных ресурсов. Стоимость получения доступа к этим ресурсам, обычно путем аренды их у крупных облачных платформ, управляемых Amazon или Microsoft, сделала разработку самых передовых моделей слишком дорогой. Это приводит к централизации технологии с соответствующими нежелательными эффектами.
OpenAI использовала ресурсы на сумму 3.2 миллиона долларов для обучения модели Chat GPT-3, используя 285,000 ядер CPU и 10,000 видеокарт. Fortune оценивает их общие расходы на вычисления за 2022 год примерно в 416 миллионов долларов. Биткойн выпускает примерно 11.4 миллиарда долларов в год в виде вознаграждений за майнинг для оплаты вычислений (исходя из 6.25 BTC/блок, времени блока в 10 минут, 1 BTC = 35,000 долларов)
А что если мы могли бы обучать модели ИИ, используя децентрализованную сеть, и вознаграждать поставщиков данных для обучения и вычислительных ресурсов в нативной криптовалюте?
Один такой проект пытается достичь этого через свой децентрализованный протокол Машинного Обучения.
Bittensor - это децентрализованная платформа для обучения искусственного интеллекта и машинного обучения, которая стремится создать рынок одноранговых машинных интеллектов.
В Bittensor есть три типа участников - майнеры, валидаторы и пользователи.
Майнеры запускают модели машинного обучения. Когда у пользователя есть запрос, он направляется майнеру, и майнер выдает ответ. Это будет похоже на ввод запроса в ChatGPT, за исключением того, что вместо ответа модели OpenAI, Bittensor решает, какому майнеру направить запрос.
Валидаторы - это посредники, которые проверяют качество и точность ответов майнеров.
Майнеры и валидаторы получают оплату за свои услуги в токенах TAO. Стимулы разработаны таким образом, чтобы создать конкурентную систему, в которой лучшие модели машинного обучения (для каждой области, известной как подсеть) выбираются для получения соответствующих запросов пользователей.
Механизм консенсуса Bittensor разработан так, чтобы вознаграждать наиболее ценные узлы в сети - ценность оценивается в соответствии с маргинальным вкладом каждого узла в общую точность сети.
Узлы и их модели могут взаимодействовать и обмениваться данными для обучения, чтобы улучшить производительность сети. Процесс оценки анализирует прогностические способности каждой модели и соответствие ее консенсусу других узлов. Узлам, оцененным как более точные, вероятнее всего будет предложено создать новый блок и получить вознаграждения TAO.
Это позволяет масштабно внедрять улучшения, в то время как неверные результаты могут быть наказаны или отклонены.
Выше представлен лишь общий обзор - обратите внимание, что другие проекты также работают над подобными децентрализованными моделями машинного обучения, не используя блокчейны или токены.
Заметка для специалистов: Bittensor также может использовать технику Децентрализованного Смешения Экспертов, применяя множество специализированных моделей машинного обучения для достижения более высокой точности.
Контекст: AI переходит в Открытый Исходный Код
Хотя OpenAI имела высокие исторические расходы на обучение самого дорогого и продвинутого чат-бота на базе GPT, основатель компании Сэм Альтман предположил в интервью, что компания достигла точки убывающей отдачи от масштаба и затрат.
Оглядываясь на пространство открытого исходного кода, кажется, что проекты с небольшим бюджетом догоняют, чтобы быть "на 80% такими же хорошими", как флагманский продукт OpenAI. Один из примеров - Stanford Alpaca, большая языковая модель, следующая инструкциям, более подробно описанная в этой статье.
Не следует предполагать, что доминирующий ИИ будет создан или контролироваться сущностью, которая тратит больше всего на ресурсы разработки или вычисления. Это также ставит под вопрос предполагаемую необходимость доступа к сопоставимому финансированию.
Модель разработки с открытым исходным кодом, возникшая из движения "Свободное Программное Обеспечение", породила чрезвычайно успешную операционную систему Linux. Можно утверждать, что Linux победил Microsoft, финансируемую из государственного бюджета, на рынке серверов, а позже стала ядром программного обеспечения смартфонов Google Android. Bitcoin, Ethereum и экосистема DeFi основаны на модели разработки с открытым исходным кодом. Хотя "Свободное Программное Обеспечение" и Linux позже привлекли некоторое корпоративное спонсорство, значительная часть работы - возможно, большинство - была выполнена на добровольной основе.
Разработка с открытым исходным кодом (естественно децентрализованная) может привести к созданию моделей ИИ, которые легко модифицировать и которые обладают скоростью, настраиваемостью и эффективностью по сравнению с большими изолированными моделями ИИ. Участники индустрии сомневаются, возможно ли для централизованных предложений окупить свои большие затраты на разработку и вычисления, монетизируя доступ, когда доступны маленькие, компактные модели с открытым исходным кодом бесплатно.
Фокус на меньших (более гибких) моделях, тонкой настройке и персонализации уже приносит плоды для сообщества открытого исходного кода.
Дизайн токена TAO - это грубая копия Биткойна:
- Объем предложения в 21 миллион единиц
- Периодические сокращения скорости эмиссии (так называемые "halvenings")
- TAO выпускается майнерам и валидаторам, выполняющим полезную работу
- Справедливый запуск (нет токенов для команды/инвесторов - каждый может "майнить" на равных условиях)
Токен TAO значительно увеличился в цене с начала месяца.
К значительным поддерживающим относятся Polychain, GSR и Digital Currency Group - хотя, поскольку код находится в общественном достоянии и майнинг токенов открыт для всех, неясно, как эти инвесторы ожидают финансового вознаграждения.
learning@home (название, вероятно, дано в честь SETI@home) работает над открытым проектом под названием Hivemind, который использует модель добровольцев вместо модели блокчейн+токен. Участники координируются с использованием технологии Распределенной Хеш-Таблицы, наиболее известной для облегчения обмена файлами между равными в сети Интернет для протокола BitTorrent.
Использование AI для оценки AI также не является уникальным для Bittensor:
Предварительная оценка с использованием GPT-4 в качестве судьи показывает, что Vicuna-13B достигает более 90%* качества OpenAI ChatGPT и Google Bard, превосходя другие модели, такие как LLaMA и Stanford Alpaca, более чем в 90%* случаев. Стоимость обучения Vicuna-13B составляет около 300 долларов. Код и веса, а также онлайн-демо, доступны для некоммерческого использования.
Чат-интерфейс на lmsys.org позволяет каждому общаться с двумя анонимными моделями ИИ бок о бок и голосовать за лучший вывод (или указывать на ничью, или на случай, когда ни одна модель не дала удовлетворительного ответа). Этот реальный обратный отзыв пользователей может быть использован для улучшения моделей. Попробуйте сами здесь!
Если вы хотите сравнить качество вывода майнеров в сети Bittensor, вы можете использовать этот бесплатный чат-интерфейс chat.bitapi.io. Также есть интерфейс с входом по логину на chat.bittensor.com.
Зачем Использовать Блокчейн / Выпускать Токен?
Хотя финансовые стимулы могут потребоваться для масштабирования до уровня, конкурентоспособного с OpenAI, Microsoft или Google, неясно, почему в настоящее время требуется токен или собственный блокчейн. Вознаграждения при необходимости могут выплачиваться в других цифровых токенах, и консенсус в распределенной блокчейн-сети не требуется для определения распределения вознаграждений. И хотя мы не являемся экспертами в области ИИ, кажется, что есть достоверные доказательства из академических работ и живых проектов, что достаточно хорошие чат-боты могут быть созданы и управляемы сообществом с открытым исходным кодом без значительных бюджетов.
Это область, которая действительно нуждается в финансировании с помощью криптоэкономических токенов?
Существует место для разногласий: за счет начального финансирования проекта с помощью собственного токена, который потенциально может стать ценным в зависимости от успеха сети, Bittensor может привлечь умных ранних адаптеров для улучшения и продвижения продукта.
Мы наткнулись на этот проект и нашли его интересным. После дополнительных исследований мы обнаружили, что в определенных кругах Twitter существует немало споров. Это, безусловно, одно из возможных решений проблемы высокой стоимости ИИ, но мы не убеждены, что это единственное решение. За годы в криптовалютной сфере мы встретили множество проектов, представленных как интернет-технологии для криптоинвесторов.
Однако мы хотим оставить наших читателей с чем-то практическим.
Попробуйте сами. Это единственный способ получить ответы на вопросы вроде: "Можем ли мы построить это на модели с открытым исходным кодом (как Linux) или нам нужна массовая корпоративная поддержка (как у Microsoft)?" Мы не собираемся выдавать себя за экспертов в области ИИ. Однако мы знаем, что среди наших читателей есть эксперты.
Если вы интересуетесь этой областью и обладаете необходимым набором навыков, майните токен. В противном случае, не покупайте его. Если вы не понимаете, как выполнять работу для заработка токена, вряд ли у вас будет хорошее представление о его стоимости.
Документация и маркетинг Bittensor проводят множество параллелей между их проектом и ранними днями Биткойна. Если вам был интересен Биткойн в 2009 и 2010 годах, вы, вероятно, запустили бы ноду и попытались бы добыть его.