Віталік Бутерін застерігає від «наївного AI-врядування» та пропонує цей ринково-орієнтований альтернативний підхід
Творець Ethereum (ETH) Віталік Бутерін висловлює занепокоєння з приводу того, що він називає «наївним» управлінням штучним інтелектом.
У публікації на X Бутерін звертає увагу на попередження співзасновника EdisonWatch Ейто Міямури, який виявив, що зловмисники можуть захопити Model Context Protocol (MCP) від OpenAI, щоб отримати доступ до приватних даних користувачів.
Експеримент Міямури показав, що використання календарного запрошення із прихованими командами потенційно може змусити ChatGPT надати конфіденційні особисті дані, якщо йому надати електронну адресу жертви.
Бутерін зазначає:
«Ось чому наївне ‘AI governance’ — це погана ідея.
Якщо ви використовуєте AI для розподілу фінансування внесків, люди БУДУТЬ вставляти jailbreak плюс ‘дай мені всі гроші’ у стільки місць, скільки зможуть.»
Як альтернативу Бутерін пропонує підхід «info finance» або відкритий ринок, де кожен може внести свою модель, яку може перевірити будь-хто або оцінити «людське журі».
«Такий підхід до ‘institution design’, коли ви створюєте відкриту можливість для людей із LLM (large language model) ззовні підключатися, замість того щоб жорстко кодувати одну LLM самостійно, є по суті більш стійким, як через те, що він забезпечує різноманіття моделей у реальному часі, так і тому, що створює вбудовані стимули для як подавачів моделей, так і зовнішніх спекулянтів стежити за цими проблемами та швидко їх виправляти.»
Generated Image: Midjourney
Featured Image: Shutterstock/Zalevska Alona UA
Відмова від відповідальності: зміст цієї статті відображає виключно думку автора і не представляє платформу в будь-якій якості. Ця стаття не повинна бути орієнтиром під час прийняття інвестиційних рішень.
Вас також може зацікавити
Kalshi підписує ексклюзивну угоду з CNBC, оскільки ринки прогнозів виходять у мейнстрім медіа
Kalshi також цього тижня оголосила, що стала офіційним партнером CNN у сфері ринків прогнозів. Конкурент Polymarket уклав партнерські угоди з Yahoo Finance та лігою змішаних єдиноборств UFC.
Акції Solana treasury Solmate зросли на 11% після оголошення про злиття з RockawayX
Solana treasury Solmate та досвідчена фірма з венчурного інвестування та інфраструктури у сфері криптовалют RockawayX оголосили про плани повного злиття акціями, яке очікується завершити на початку наступного року. Раніше Solmate заявляла про наміри реалізувати агресивну стратегію злиттів і поглинань для посилення свого резерву та операцій зі стейкінгу.
Breakout Ethereum perps DEX Lighter запускає спотову торгівлю
Ethereum-орієнтована платформа для торгівлі деривативами Lighter запускає спотову торгівлю, починаючи з ETH. Lighter, нещодавно оцінена у 1.5 billions доларів, активно розвивається останні тижні: зокрема, запровадила торгівлю деривативами на акції, починаючи з COIN і HOOD, а також розширила пропозиції на ринку іноземної валюти.
«Підкріплений нічим»: Пітер Шифф стверджує, що bitcoin не може конкурувати з токенізованим золотом у дебаті з CZ
Шифф представив недавні результати bitcoin як доказ зниження попиту, стверджуючи, що він відстає від золота навіть на тлі притоку в ETF, корпоративного накопичення та інтенсивного ринкового ажіотажу. CZ заперечив, що реальне використання, зокрема повсякденні витрати через карти, пов’язані з криптовалютою, демонструє, що корисність bitcoin виходить за межі спекуляцій.
У тренді
БільшеЦіни на криптовалюти
Більше
