Bitget App
Cмартторгівля для кожного
Купити криптуРинкиТоргуватиФ'ючерсиEarnWeb3ЦентрДокладніше
Торгувати
Cпот
Купуйте та продавайте крипту
Маржа
Збільшуйте капітал й ефективність коштів
Onchain
ончейн-торгівля без зайвих зусиль
Конвертація і блокова торгівля
Конвертуйте криптовалюту в один клац — без комісій
Огляд
Launchhub
Скористайтеся перевагою на старті і почніть заробляти
Копіювати
Копіюйте угоди елітних трейдерів в один клац
Боти
Простий, швидкий і надійний торговий бот на базі ШІ
Торгувати
Фʼючерси USDT-M
Фʼючерси, розрахунок за якими відбувається в USDT
Фʼючерси USDC-M
Фʼючерси, розрахунок за якими відбувається в USDC
Фʼючерси Coin-M
Фʼючерси, розрахунок за якими відбувається в різни
Огляд
Посібник з фʼючерсів
Шлях фʼючерсної торгівлі від початківця до просунутого трейдера
Фʼючерсні промоакції
На вас чекають щедрі винагороди
Bitget Earn
Різноманітні продукти для примноження ваших активів
Simple Earn
Здійснюйте депозити та зняття в будь-який час, щоб отримувати гнучкий прибуток без ризику
Ончейн Earn
Отримуйте прибуток щодня, не ризикуючи основним капіталом
Структуровані продукти Earn
Надійні фінансові інновації для подолання ринкових коливань
VIP та Управління капіталом
Преміальні послуги для розумного управління капіталом
Позики
Безстрокове кредитування з високим рівнем захисту коштів
Бутерін закликає Info Finance зупинити експлойти в AI-управлінні

Бутерін закликає Info Finance зупинити експлойти в AI-управлінні

CryptotaleCryptotale2025/09/13 16:33
Переглянути оригінал
-:Yusuf Islam
Бутерін закликає Info Finance зупинити експлойти в AI-управлінні image 0
  • Віталік попереджає, що наївне управління AI вразливе до маніпуляцій і експлойтів.
  • Info finance створює різноманітність моделей і швидкі корекції, роблячи управління AI безпечнішим.
  • Ринки прогнозів і вибіркові перевірки допомагають забезпечити безпеку прийняття рішень і фінансування AI.

Співзасновник Ethereum Віталік Бутерін попередив, що наївні моделі управління AI становлять серйозні ризики, і застеріг, що структури, які покладаються на AI для фінансування чи прийняття рішень, залишаються вразливими до маніпуляцій і експлойтів. На його думку, такі системи дозволяють зловмисникам відволікати ресурси, однак він виступає за підхід під назвою “info finance”, розроблений для створення підзвітності й запобігання зловживанням через ринки, людський нагляд і перевірки.

Ось чому наївне "AI governance" — це погана ідея.

Якщо ви використовуєте AI для розподілу фінансування внесків, люди БУДУТЬ вставляти jailbreak плюс "дай мені всі гроші" всюди, де тільки можна.

Як альтернативу, я підтримую підхід info finance ( …

— vitalik.eth 13 вересня 2025

Аргументи проти наївного управління AI

Бутерін підкреслив, що наївне управління AI є ризикованим, і додав, що якщо AI використовується для розподілу коштів, люди можуть маніпулювати ним за допомогою власних підказок і отримувати надмірні гроші. Він також пояснив, що якщо моделі працюють без будь-яких обмежень чи інструкцій, ними можуть зловживати, заохочуючи хакерів використовувати підказки й обманювати AI, щоб отримати неправильні ресурси. 

Такі вразливості ставлять AI у потенційно небезпечну пастку. Далі Бутерін виявив системні слабкості, які, якщо їх не контролювати, можуть бути використані. Невидимі атаки, prompt injections — це приклади того, як зловмисники можуть легко скористатися ситуацією.

Info Finance як альтернатива

Бутерін обирає інформаційні фінанси замість наївного управління, описуючи це як підхід “institution design”, що поєднує відкриту ринкову конкуренцію з людською перевіркою. Він сказав:

Як альтернативу, я підтримую підхід info finance, де існує відкритий ринок, на якому кожен може запропонувати свої моделі, які підлягають механізму вибіркової перевірки, що може бути ініційований будь-ким і оцінений людським журі.

Він окреслив, що Info Finance дозволяє зовнішнім учасникам інтегрувати великі мовні моделі (LLMs) без жорсткого кодування однієї системи. Це забезпечить різноманітність моделей, зменшуючи ймовірність масових збоїв. Також це створює стимули для розробників і спекулянтів уважно стежити за недоліками й швидко реагувати на проблеми.

Один із запропонованих механізмів передбачає ринки прогнозів або ринки рішень. Кілька моделей змагатимуться, а учасники зможуть робити ставки на результати, сигналізуючи, які моделі здаються найбільш надійними. Людські журі або аудитори періодично проводитимуть вибіркові перевірки результатів, особливо у випадках із високими ставками.

Дивіться також: ETH Treasuries зросли до $12B, поки Віталік попереджає про ризики левериджу

Наслідки для криптовалют і ринків

Info finance спирається на багаторівневу підзвітність, і це помітно у відкритій конкуренції, яка дозволяє оскаржувати або замінювати помилкові моделі. Людський нагляд додається через журі та аудити. Економічні стимули не дозволяють маніпуляціям, а прозорість робить зловмисну поведінку видимою.

Пов’язуючи управління AI з блокчейном і торгівлею, Бутерін припускає, що недоліки централізованого AI можуть підвищити інтерес до децентралізованих рішень, здебільшого побудованих на Ethereum. Крім того, токени, такі як RNDR від Render Network і GRT від The Graph, забезпечують інфраструктуру для AI-обчислень, отримуючи вигоди від розвитку. Далі, трейдери також можуть використовувати ETH і ці токени для арбітражу на тлі волатильності ринку. 

Ончейн-дані свідчать, що кількість транзакцій ETH, пов’язаних із AI-смарт-контрактами, зростає, а питання управління AI можуть впливати й на технологічні акції, зокрема такі компанії, як NVIDIA і Microsoft, які інвестують в AI. Загалом Бутерін зазначив, що Info Finance дозволяє швидше виправляти помилки, замінюючи несправні моделі й караючи порушників. Він також додав, що перевірки журі та вибіркові перевірки запобігатимуть поширенню експлойтів.

Публікація Buterin Pushes Info Finance to Stop Exploits in AI Governance вперше з’явилася на Cryptotale.

0

Відмова від відповідальності: зміст цієї статті відображає виключно думку автора і не представляє платформу в будь-якій якості. Ця стаття не повинна бути орієнтиром під час прийняття інвестиційних рішень.

PoolX: Заробляйте за стейкінг
До понад 10% APR. Що більше монет у стейкінгу, то більший ваш заробіток.
Надіслати токени у стейкінг!

Вас також може зацікавити

Японський SBI Shinsei приєднується до мережі JPMorgan для випуску токенізованих депозитів

SBI Shinsei Bank випустить цифрову валюту для корпоративних клієнтів у 2026 фінансовому році, ставши першим японським банком, який приєднається до побудованої на блокчейні JPMorgan мережі Partior. За повідомленням Nikkei, цей крок має на меті забезпечити майже миттєві міжнародні перекази за значно нижчою вартістю, ніж існуючі системи. DCJPY прагне скоротити комісії та пришвидшити перекази. Минулого року...

BeInCrypto2025/09/13 19:33
Японський SBI Shinsei приєднується до мережі JPMorgan для випуску токенізованих депозитів

Ціна SEI може зрости на 54% на тлі зростання RWAs та стейблкоїнів

Sei швидко перетворюється на основу токенізованої економіки, інтегруючи дані уряду США та реальні активи (RWA), а також демонструючи високу активність мережі. Аналітики вважають, що SEI готовий до технічного прориву з великим потенціалом зростання.

BeInCrypto2025/09/13 19:33
Ціна SEI може зрости на 54% на тлі зростання RWAs та стейблкоїнів

Змішані результати для трейдерів PUMP: майже половина в прибутку, інші — у глибокому мінусі

Pump.fun впроваджує реформи “Project Ascend”, спрямовані на посилення своєї екосистеми та підвищення ціни токена PUMP.

BeInCrypto2025/09/13 19:33
Змішані результати для трейдерів PUMP: майже половина в прибутку, інші — у глибокому мінусі

Шлях Ethereum до $5,000 відкрито, оскільки пропозиція на біржах досягає мінімуму року, а потоки ETF відновлюються

Ралі Ethereum набирає обертів, оскільки пропозиція на біржах зменшується, а притік коштів у ETF зростає, що створює передумови для прориву до $5,000.

BeInCrypto2025/09/13 19:33
Шлях Ethereum до $5,000 відкрито, оскільки пропозиція на біржах досягає мінімуму року, а потоки ETF відновлюються