Buterin incentiva Info Finance a impedir explorações na governança de IA

• Vitalik alerta que a governança ingênua de IA é vulnerável à manipulação e explorações.
• Info finance cria diversidade de modelos e correções rápidas, tornando a governança de IA mais segura.
• Mercados de previsão e verificações pontuais ajudam a proteger a tomada de decisões e o financiamento por IA.

O cofundador da Ethereum, Vitalik Buterin, alertou que modelos ingênuos de governança de IA apresentam riscos sérios e advertiu que estruturas que dependem de IA para financiamento ou tomada de decisões permanecem vulneráveis à manipulação e explorações. Em sua visão, tais sistemas permitem que agentes mal-intencionados desviem recursos; no entanto, ele defende uma abordagem chamada “info finance”, projetada para construir responsabilidade e prevenir abusos por meio de mercados, supervisão humana e mecanismos de verificação.

O Caso Contra a Governança Ingênua de IA

Buterin enfatizou que a governança ingênua de IA é arriscada e acrescentou que, se a IA for usada para alocar fundos, as pessoas poderiam manipulá-la com prompts de sua escolha e obter dinheiro em excesso. Ele detalhou ainda que, se os modelos funcionassem sem quaisquer restrições ou diretrizes, poderiam ser mal utilizados, incentivando hackers a usar prompts e enganar a IA para liberar recursos incorretos. 

Tais vulnerabilidades colocam a IA em um ciclo potencialmente perigoso. Além disso, Buterin revelou fraquezas sistêmicas que, se não forem controladas, poderiam ser manipuladas. Ataques invisíveis e injeções de prompts são exemplos de como atacantes podem facilmente se aproveitar.

Info Finance como Alternativa

Buterin opta pelo info finance em vez da governança ingênua, descrevendo-o como uma abordagem de “design institucional”, combinando competição de mercado aberto com verificação humana. Ele disse:

Como alternativa, apoio a abordagem de info finance, onde você tem um mercado aberto onde qualquer pessoa pode contribuir com seus modelos, que estão sujeitos a um mecanismo de verificação pontual que pode ser acionado por qualquer um e avaliado por um júri humano.

Ele explicou que o Info Finance permite que colaboradores externos integrem grandes modelos de linguagem (LLMs) sem codificar um único sistema. Isso permitirá diversidade de modelos, reduzindo assim a chance de falhas generalizadas. Também cria incentivos para desenvolvedores e especuladores monitorarem de perto as falhas e agirem rapidamente quando surgirem problemas.

Um mecanismo proposto envolve mercados de previsão ou mercados de decisão. Múltiplos modelos competiriam, e os participantes poderiam apostar nos resultados, sinalizando quais modelos parecem mais confiáveis. Júris humanos ou auditores fariam verificações pontuais periodicamente, especialmente em casos de alto risco.

Relacionado: Tesourarias de ETH disparam para $12B enquanto Vitalik alerta sobre riscos de alavancagem

Implicações para Cripto e Mercados

O info finance depende de responsabilidade em camadas, sendo notável na competição aberta, que permite que modelos defeituosos sejam desafiados ou substituídos. A supervisão humana é adicionada por meio de júris e auditorias. Incentivos econômicos impedem manipulação, enquanto a transparência torna comportamentos maliciosos visíveis.

Ao vincular a governança de IA ao blockchain e à negociação, Buterin sugere que falhas em IA centralizada podem aumentar o interesse por soluções descentralizadas, principalmente construídas na Ethereum. Além disso, tokens como o RNDR da Render Network e o GRT da The Graph fornecem infraestrutura para cálculos de IA, beneficiando-se do desenvolvimento. Além disso, traders também podem usar ETH e esses tokens para arbitragem em meio à volatilidade do mercado. 

Dados on-chain indicam que há mais transações de ETH associadas a contratos inteligentes relacionados à IA e que questões de governança de IA podem impactar ações de tecnologia também, com empresas como NVIDIA e Microsoft envolvidas em investimentos em IA. No geral, Buterin destacou que o Info Finance permite correções mais rápidas, substituindo modelos defeituosos e penalizando infratores. Ele também acrescentou que verificações por júri e verificações pontuais impedirão que explorações se espalhem.

O post Buterin Pushes Info Finance to Stop Exploits in AI Governance apareceu primeiro em Cryptotale.