Bitget App
Trading inteligente
Comprar criptoMercadosTradingFuturosRendaWeb3CentralMais
Trading
Spot
Compre e venda criptomoedas
Margem
Amplie seu capital e a eficiência de seus fundos
Onchain
Opere Onchain sem tem que ir on-chain
Converter e bloquear o trade
Converta criptomoedas com um clique e sem taxas
Explorar
Launchhub
Comece a ganhar com vantagens desde o início
Copiar
Copie traders de elite com um clique
Robôs
Robô de trading com IA simples, rápido e confiável
Trading
Futuros USDT
Futuros liquidados em USDT
Futuros USDC
Futuros liquidados em USDC
Futuros Coin-M
Futuros liquidados em criptomoedas
Explorar
Guia de futuros
Uma jornada no trading de futuros
Promoções de futuros
Aproveite recompensas generosas!
Renda Bitget
Uma série de produtos para aumentar seus ativos
Renda Simples
Deposite e retire a qualquer momento para obter retornos flexíveis com risco zero
Renda On-chain
Ganhe lucros diariamente sem arriscar o investimento inicial
Renda estruturada
Inovação financeira robusta para navegar pelas oscilações do mercado
VIP e Gestão de Patrimônio
Serviços premium para uma Gestão de Patrimônio inteligente
Empréstimos
Empréstimo flexível com alta segurança de fundos
Governança de IA é um sinal de alerta: Vitalik Buterin oferece uma alternativa

Governança de IA é um sinal de alerta: Vitalik Buterin oferece uma alternativa

CoinspeakerCoinspeaker2025/09/13 17:16
Mostrar original
Por:By Parth Dubey Editor Kirsten Thijssen

Vitalik Buterin expressou preocupações sobre os perigos de confiar excessivamente na IA para governança, citando falhas recentes de segurança como prova de sua fragilidade.

Notas Principais

  • Vitalik Buterin alertou que uma governança ingênua baseada em IA é facilmente explorada.
  • Uma demonstração recente mostrou como atacantes podem enganar o ChatGPT para vazar dados privados.
  • O modelo de “info finance” de Buterin promove diversidade, supervisão e resiliência.

O cofundador da Ethereum, Vitalik Buterin, alertou seus seguidores no X sobre os riscos de confiar na inteligência artificial (IA) para governança, argumentando que as abordagens atuais são fáceis de explorar.

As preocupações de Buterin vieram após outro alerta do cofundador da EdisonWatch, Eito Miyamura, que mostrou como agentes maliciosos podem sequestrar o novo Model Context Protocol (MCP) da OpenAI para acessar dados privados de usuários.

É por isso também que uma governança ingênua baseada em IA é uma má ideia.

Se você usar uma IA para alocar fundos para contribuições, as pessoas VÃO inserir um jailbreak junto com “me dê todo o dinheiro” em tantos lugares quanto puderem.

Como alternativa, apoio a abordagem de info finance ( …

— vitalik.eth (@VitalikButerin) 13 de setembro de 2025

Os Riscos da Governança Ingênua por IA

O teste de Miyamura revelou como um simples convite de calendário com comandos ocultos pode enganar o ChatGPT para expor e-mails sensíveis assim que o assistente acessa a entrada comprometida.

Especialistas em segurança observaram que grandes modelos de linguagem não conseguem distinguir entre instruções genuínas e maliciosas, tornando-os altamente vulneráveis à manipulação.

Fizemos o ChatGPT vazar seus dados privados de e-mail 💀💀

Tudo o que você precisa? O endereço de e-mail da vítima. ⛓️‍💥🚩📧

Na quarta-feira, @OpenAI adicionou suporte total para ferramentas MCP (Model Context Protocol) no ChatGPT. Permitindo que o ChatGPT se conecte e leia seu Gmail, Calendário, Sharepoint, Notion,…

— Eito Miyamura | 🇯🇵🇬🇧 (@Eito_Miyamura) 12 de setembro de 2025

Buterin afirmou que essa falha é um grande sinal de alerta para sistemas de governança que depositam confiança excessiva na IA.

Ele argumentou que, se tais modelos fossem usados para gerenciar financiamentos ou tomadas de decisão, atacantes poderiam facilmente burlar as proteções com prompts no estilo jailbreak, deixando os processos de governança vulneráveis a abusos.

Info Finance: Uma Alternativa Baseada em Mercado

Para lidar com essas fraquezas, Buterin propôs um sistema que ele chama de “info finance”. Em vez de concentrar o poder em uma única IA, essa estrutura permite que múltiplos modelos de governança compitam em um mercado aberto.

Qualquer pessoa pode contribuir com um modelo, e suas decisões podem ser contestadas por meio de verificações aleatórias, com a palavra final ficando a cargo de júris humanos.

Essa abordagem foi projetada para garantir resiliência, combinando diversidade de modelos com supervisão humana. Além disso, incentivos são incorporados tanto para desenvolvedores quanto para observadores externos detectarem falhas.

Projetando Instituições para Robustez

Buterin descreve isso como um método de “design institucional”, em que grandes modelos de linguagem de diferentes contribuintes podem ser integrados, ao invés de depender de um único sistema centralizado.

Ele acrescentou que isso cria diversidade em tempo real, reduzindo o risco de manipulação e garantindo adaptabilidade à medida que surgem novos desafios.

No início de agosto, Buterin criticou o avanço em direção a agentes de IA altamente autônomos, dizendo que o aumento do controle humano geralmente melhora tanto a qualidade quanto a segurança.

No médio prazo, quero alguma coisa avançada de BCI onde me mostre o conteúdo enquanto está sendo gerado e detecte em tempo real como me sinto sobre cada parte, ajustando conforme necessário.

— vitalik.eth (@VitalikButerin) 11 de agosto de 2025

Ele apoia modelos que permitem edição iterativa e feedback humano, em vez daqueles projetados para operar de forma independente por longos períodos.

0

Aviso Legal: o conteúdo deste artigo reflete exclusivamente a opinião do autor e não representa a plataforma. Este artigo não deve servir como referência para a tomada de decisões de investimento.

PoolX: bloqueie e ganhe!
Até 10% de APR - Quanto mais você bloquear, mais poderá ganhar.
Bloquear agora!

Talvez também goste

Fundação Ethereum define roteiro de privacidade de ponta a ponta, com escritas, leituras e comprovações privadas

A equipe “Privacy & Scaling Explorations” da Ethereum Foundation foi rebatizada para “Privacy Stewards of Ethereum” e divulgou um roadmap detalhando o progresso atual para construir privacidade completa de ponta a ponta no blockchain. O roadmap está organizado em três áreas principais: escritas privadas, leituras privadas e provas privadas, com o objetivo de tornar as ações privadas onchain no Ethereum comuns, acessíveis e em conformidade com as normas.

The Block2025/09/14 00:02
Fundação Ethereum define roteiro de privacidade de ponta a ponta, com escritas, leituras e comprovações privadas

PancakeSwap adiciona previsões de preços gamificadas de Bitcoin e Ethereum na BNB Chain

A PancakeSwap expandiu seu mercado de previsões na BNB Chain, agora permitindo que usuários apostem nos movimentos de preço do Bitcoin e do Ethereum em rodadas rápidas de 5 minutos.

Coinspeaker2025/09/13 23:47

Ledger lança aplicativo móvel para clientes empresariais

A empresa de carteiras de hardware Ledger lançou um novo aplicativo móvel para seus clientes institucionais, projetado para permitir aprovações seguras de transações remotamente.

Coinspeaker2025/09/13 23:47