Впровадження смарт-контрактів у федеративне навчання: як Flock змінює виробничі відносини в AI?

У майбутньому FLock також планує запустити більш дружній механізм ініціювання завдань, щоб реалізувати бачення «AI для кожного».

Автор: LINDABELL

У попередньому циклі децентралізованого AI такі зіркові проєкти, як Bittensor, io.net та Olas, завдяки своїм інноваційним технологіям і далекоглядному підходу швидко стали лідерами галузі. Однак із зростанням оцінки цих старих проєктів поріг входу для звичайних інвесторів стає дедалі вищим. Тож чи існують нові можливості для участі в умовах нинішньої ротації секторів?

Flock: децентралізована мережа для тренування та валідації AI

Flock — це децентралізована платформа для тренування та застосування AI-моделей, яка поєднує федеративне навчання та блокчейн-технології, щоб забезпечити користувачам безпечне середовище для тренування та керування моделями, одночасно захищаючи приватність даних і справедливу участь спільноти. Термін Flock вперше з’явився у публічному просторі у 2022 році, коли засновницька команда опублікувала наукову статтю під назвою «FLock: Defending malicious behaviors in federated learning with blockchain», у якій запропонувала ідею впровадження блокчейну у федеративне навчання для запобігання зловмисним діям. У статті описано, як за допомогою децентралізованого механізму можна посилити безпеку даних і захист приватності під час тренування моделей, а також розкрито потенціал цієї нової архітектури для розподілених обчислень.

Після початкової перевірки концепції у 2023 році Flock запустив децентралізовану мульти-агентну AI-мережу Flock Research. У Flock Research кожен агент — це велика мовна модель (LLM), оптимізована для певної галузі, яка може співпрацювати для надання користувачам експертизи в різних сферах. Далі, у середині травня 2024 року, Flock офіційно відкрив тестову мережу децентралізованої платформи для тренування AI, де користувачі можуть брати участь у тренуванні та донавчанні моделей, використовуючи тестовий токен FML, і отримувати винагороди. Станом на 30 вересня 2024 року кількість щоденних активних AI-інженерів на платформі Flock перевищила 300 осіб, а загальна кількість поданих моделей сягнула понад 15 000.

З розвитком проєкту Flock також привернув увагу капіталу. У березні цього року Flock завершив раунд фінансування на 6 мільйонів доларів під проводом Lightspeed Faction і Tagus Capital, а також за участі DCG, OKX Ventures, Inception Capital і Volt Capital. Варто зазначити, що Flock став єдиним AI-інфраструктурним проєктом, який отримав грант у 2024 році від Ethereum Foundation у рамках академічного фінансування.

Фундамент для трансформації виробничих відносин у AI: впровадження смарт-контрактів у федеративне навчання

Федеративне навчання (Federated Learning) — це метод машинного навчання, який дозволяє кільком суб’єктам (зазвичай їх називають клієнтами) спільно тренувати модель, зберігаючи дані локально. На відміну від традиційного машинного навчання, федеративне навчання уникає необхідності завантаження всіх даних на центральний сервер, натомість захищаючи приватність користувачів через локальні обчислення. Наразі федеративне навчання вже застосовується у багатьох реальних сценаріях, наприклад, Google з 2017 року впровадив його у свою клавіатуру Gboard для оптимізації підказок і прогнозування тексту, при цьому дані користувача не завантажуються на сервер. Tesla також використовує подібну технологію у своїй системі автопілота для локального підвищення здатності автомобіля розпізнавати навколишнє середовище, зменшуючи потребу у масовій передачі відеоданих.

Однак ці застосування мають певні проблеми, особливо щодо приватності та безпеки. По-перше, користувачі мають довіряти централізованим третім сторонам, а по-друге, під час передачі та агрегації параметрів моделі потрібно запобігати завантаженню зловмисними вузлами фальшивих даних або шкідливих параметрів, що може призвести до зниження загальної продуктивності моделі або навіть до помилкових прогнозів. Дослідження команди FLock, опубліковане в журналі IEEE, показало, що точність традиційної федеративної моделі падає до 96,3% при наявності 10% зловмисних вузлів, а при 30% і 40% зловмисних вузлів точність знижується до 80,1% і 70,9% відповідно.

Щоб вирішити ці проблеми, Flock впровадив смарт-контракти на блокчейні у свою архітектуру федеративного навчання як «двигун довіри». Смарт-контракти як двигун довіри дозволяють автоматизовано збирати та верифікувати параметри у децентралізованому середовищі, а також неупереджено публікувати результати моделі, ефективно запобігаючи підробці даних зловмисними вузлами. Порівняно з традиційними федеративними рішеннями, навіть при 40% зловмисних вузлів точність моделі FLock залишається вище 95,5%.

Позиціонування як виконувального шару AI: аналіз трирівневої архітектури FLock

Одна з основних проблем сучасної AI-галузі полягає в тому, що ресурси для тренування моделей і використання даних усе ще зосереджені в руках кількох великих компаній, і звичайним розробникам та користувачам важко ефективно їх використовувати. Тому користувачі можуть користуватися лише стандартними моделями, не маючи змоги налаштовувати їх під свої потреби. Такий дисбаланс попиту й пропозиції призводить до того, що навіть за наявності значних обчислювальних потужностей і даних на ринку вони не перетворюються на реально корисні моделі та застосування.

Щоб вирішити цю проблему, Flock прагне стати ефективною системою диспетчеризації попиту, ресурсів, обчислювальних потужностей і даних. Flock, використовуючи стек Web3, позиціонує себе як «виконувальний шар», оскільки його основна функція — розподіляти індивідуальні AI-запити користувачів між децентралізованими вузлами для тренування, а також керувати цими завданнями по всьому світу за допомогою смарт-контрактів.

Крім того, для забезпечення справедливості та ефективності екосистеми система FLock відповідає ще й за «розрахунки» та «консенсус». Розрахунки — це стимулювання та керування внеском учасників, винагороди й покарання залежно від виконання завдань. Консенсус — це оцінка та оптимізація якості результатів тренування, щоб фінальна модель була глобально оптимальною.

Загальна архітектура продукту FLock складається з трьох основних модулів: AI Arena, FL Alliance і AI Marketplace. AI Arena відповідає за децентралізоване базове тренування моделей, FL Alliance — за донавчання моделей під управлінням смарт-контрактів, а AI Marketplace — це ринок застосування моделей.

AI Arena: локалізоване тренування моделей і винагороди за валідацію

AI Arena — це децентралізована платформа для тренування AI від Flock, де користувачі можуть брати участь, застейкавши тестовий токен FML, і отримувати відповідні винагороди. Після визначення потрібної моделі та подання завдання тренувальні вузли AI Arena локально тренують модель на основі заданої архітектури, не завантажуючи дані на централізований сервер. Після завершення тренування на кожному вузлі валідаційні вузли перевіряють якість моделі та виставляють оцінки. Якщо користувач не хоче брати участь у процесі валідації, він може делегувати токени валідаційному вузлу для отримання винагороди.

В AI Arena механізм винагород для всіх ролей залежить від двох основних факторів: кількості стейку та якості виконання завдань. Кількість стейку відображає «зобов’язання» учасника, а якість завдання — його внесок. Наприклад, винагорода тренувального вузла залежить від кількості застейканих токенів і рейтингу якості поданої моделі, а винагорода валідаційного вузла — від відповідності голосування консенсусу, кількості застейканих токенів, кількості та успішності участі у валідації. Прибуток делегатора залежить від вибраного валідаційного вузла та кількості стейку.

AI Arena підтримує традиційний режим тренування моделей машинного навчання, і користувачі можуть обирати тренування на власних пристроях із використанням локальних або відкритих даних, щоб максимально підвищити продуктивність фінальної моделі. Наразі в публічній тестовій мережі AI Arena працюють 496 активних тренувальних вузлів, 871 валідаційний вузол і 72 делегатори. Поточний рівень стейкінгу на платформі становить 97,74%, середньомісячний дохід тренувальних вузлів — 40,57%, а валідаційних — 24,70%.

FL Alliance: платформа для донавчання під автоматичним управлінням смарт-контрактів

Моделі з найвищими оцінками на AI Arena обираються як «консенсусні моделі» та передаються у FL Alliance для подальшого донавчання. Донавчання відбувається у кілька раундів. На початку кожного раунду система автоматично створює FL смарт-контракт, пов’язаний із завданням, який автоматично керує виконанням завдання та винагородами. Так само кожен учасник має застейкати певну кількість FML токенів. Учасники випадково розподіляються на пропонентів і голосуючих: пропоненти тренують модель на власних локальних даних і завантажують параметри або ваги моделі для інших учасників, а голосуючі агрегують і оцінюють результати оновлення моделі. Усі результати подаються у смарт-контракт, який порівнює оцінки кожного раунду з попереднім, щоб визначити прогрес або регрес продуктивності моделі. Якщо продуктивність покращилася, система переходить до наступного етапу тренування; якщо погіршилася — використовується перевірена модель попереднього раунду для нового циклу тренування, агрегації та оцінки.

FL Alliance, поєднуючи федеративне навчання та механізм смарт-контрактів, дозволяє багатьом учасникам спільно тренувати глобальну модель, зберігаючи суверенітет над своїми даними. Об’єднуючи різні дані та агрегуючи ваги, можна створити більш продуктивну та потужну глобальну модель. Крім того, учасники демонструють свою участь через стейкінг токенів і отримують винагороди залежно від якості моделі та результатів консенсусу, формуючи справедливу та прозору екосистему.

AI Marketplace: як надавати персоналізовані AI-сервіси?

Після тренування в AI Arena та донавчання у FL Alliance моделі остаточно розгортаються в AI Marketplace, де їх можуть використовувати інші застосунки. На відміну від традиційних «ринків моделей», AI Marketplace не лише пропонує готові моделі, а й дозволяє користувачам додатково модифікувати моделі та інтегрувати нові джерела даних для різних сценаріїв. Крім того, AI Marketplace інтегрує технологію RAG (Retrieval-Augmented Generation — «генерація з підсиленням пошуком»), щоб підвищити точність моделей у спеціалізованих сферах. RAG — це метод підсилення великих мовних моделей, який під час генерації відповідей шукає релевантну інформацію у зовнішніх базах знань, забезпечуючи точніші та персоналізовані відповіді.

Наразі на AI Marketplace вже доступно багато кастомізованих GPT-моделей для різних сценаріїв, зокрема BTC GPT, Farcaster GPT, Scroll GPT, Ethereum GPT тощо. Для прикладу розглянемо різницю між кастомізованою та універсальною моделлю на основі BTC GPT.

У грудні 2023 року, коли одночасно задали питання «Що таке ARC20?» BTC GPT і ChatGPT:

• Відповідь BTC GPT: «Протокол ARC20 — це протокол, побудований на мережі Bitcoin, який дозволяє користувачам створювати, передавати та оновлювати цифрові активи, такі як NFT та взаємозамінні токени. За допомогою ARC20 можна створювати невзаємозамінні NFT та взаємозамінні токени на мережі Bitcoin. Основний токен протоколу — ATOM, який використовується для різних цілей у межах протоколу».
• Відповідь ChatGPT: «Станом на моє останнє оновлення знань у січні 2022 року у технічній, фінансовій чи інших поширених сферах не існувало широко визнаного стандарту чи технології під назвою ARC20. Можливо, після цього з’явилася нова технологія чи стандарт ARC20, але у мене немає відповідної інформації».

З відповідей видно важливість і переваги кастомізованих GPT-моделей. На відміну від універсальних мовних моделей, кастомізовані GPT-моделі можуть тренуватися на даних певної галузі, щоб надавати точніші відповіді.

Обидва проєкти підтримує DCG: у чому схожість і відмінності Flock та Bittensor?

Зі зростанням інтересу до AI-сектору токен децентралізованого AI-проєкту Bittensor за останні 30 днів виріс більш ніж на 93,7%, а ціна майже досягла історичного максимуму, ринкова капіталізація знову перевищила 4 мільярди доларів. Варто зазначити, що інвестор Flock — DCG — також є найбільшим валідаційним вузлом і майнером в екосистемі Bittensor. За словами обізнаних осіб, DCG володіє приблизно 100 мільйонами доларів у TAO, а в статті Business Insider за 2021 рік інвестор DCG Matthew Beck рекомендував Bittensor як одну з 53 найперспективніших крипто-стартапів.

Попри те, що обидва проєкти підтримує DCG, FLock і Bittensor мають різні акценти. Bittensor прагне побудувати децентралізований AI-інтернет, використовуючи «сабнети» як базові одиниці — кожен сабнет є децентралізованим ринком, де учасники можуть виступати як «майнери» чи «валідаційні вузли». Наразі в екосистемі Bittensor 49 сабнетів, що охоплюють текст у мовлення, генерацію контенту, донавчання великих мовних моделей тощо.

З минулого року Bittensor залишається у центрі уваги ринку. З одного боку, через стрімке зростання ціни токена — з 80 доларів у жовтні 2023 року до максимуму 730 доларів цього року. З іншого боку — через різноманітні сумніви, зокрема щодо того, чи може модель залучення розробників через токен-стимули бути стійкою. Крім того, у Bittensor три найбільші валідаційні вузли (Opentensor Foundation, Taostats & Corcel, Foundry) разом тримають майже 40% застейканих TAO, що викликає занепокоєння щодо рівня децентралізації.

На відміну від Bittensor, FLock впроваджує блокчейн у федеративне навчання, щоб надавати користувачам персоналізовані AI-сервіси. Flock позиціонує себе як «Uber у сфері AI», виступаючи як децентралізована система диспетчеризації, що автоматично керує розподілом завдань, верифікацією результатів і розрахунком винагород через смарт-контракти, забезпечуючи справедливу участь кожного відповідно до його внеску. Але, як і в Bittensor, окрім ролей тренувального вузла та валідаційного вузла, Flock також пропонує користувачам опцію делегування.

Зокрема:

• Тренувальні вузли: беруть участь у тренуванні AI-завдань через стейкінг токенів, підходить для користувачів із обчислювальними потужностями та досвідом у AI-розробці.
• Валідаційні вузли: також потребують стейкінгу для участі в мережі, відповідають за перевірку якості моделей майнерів і впливають на розподіл винагород через оцінювання.
• Делегатори: делегують токени майнерам і валідаційним вузлам, підвищуючи їхню вагу при розподілі завдань і розділяючи винагороди обраних вузлів. Таким чином, навіть користувачі без технічних навичок можуть брати участь у мережі та заробляти.

FLock.io офіційно відкрив функцію участі для делегаторів — будь-який користувач може отримувати прибуток через стейкінг FML токенів і обирати оптимальні вузли для максимізації доходу відповідно до очікуваної річної прибутковості. Flock також зазначає, що стейкінг і пов’язані дії на етапі тестової мережі впливатимуть на потенційні аірдропи після запуску основної мережі.

У майбутньому FLock також планує запустити більш дружній механізм ініціювання завдань, щоб навіть користувачі без спеціальних знань у AI могли легко брати участь у створенні та тренуванні AI-моделей, реалізуючи бачення «AI для кожного». Одночасно Flock активно розвиває співпрацю, наприклад, із Request Finance для розробки ончейн-моделі кредитного скорингу, із Morpheus і Ritual для створення моделей торгових ботів, надає шаблони тренувальних вузлів для швидкого розгортання на Akash, а також тренує асистента програмування Move для розробників Aptos.

Загалом, попри різницю в ринковому позиціонуванні, і Bittensor, і Flock намагаються переосмислити виробничі відносини в AI-екосистемі через різні децентралізовані архітектури. Їхня спільна мета — зруйнувати монополію централізованих гігантів на AI-ресурси та побудувати більш відкриту й справедливу AI-екосистему, чого зараз так потребує ринок.