Vitalik Buterin advierte contra la "gobernanza ingenua de la IA" y propone esta alternativa impulsada por el mercado
El creador de Ethereum (ETH), Vitalik Buterin, está expresando cierta preocupación sobre lo que él denomina una gobernanza de inteligencia artificial “ingenua”.
En una publicación en X, Buterin destaca una advertencia del cofundador de EdisonWatch, Eito Miyamura, quien descubrió que actores malintencionados podrían secuestrar el Model Context Protocol (MCP) de OpenAI para acceder a datos privados de los usuarios.
El experimento de Miyamura sugirió que usar una invitación de calendario con comandos ocultos podría potencialmente engañar a ChatGPT para que proporcione datos personales sensibles, siempre que se le diera la dirección de correo electrónico de la víctima.
Buterin afirma,
“Por eso la ‘gobernanza de IA’ ingenua también es una mala idea.
Si usás una IA para asignar fondos a contribuciones, la gente VA a poner un jailbreak más un ‘dame toda la plata’ en tantos lugares como pueda.”
Como alternativa, Buterin sugiere un enfoque de “info finance”, o un mercado abierto donde cualquiera pueda contribuir con un modelo que pueda ser revisado por cualquiera o evaluado por un “jurado humano”.
“Este tipo de enfoque de ‘diseño institucional’, donde creás una oportunidad abierta para que personas con LLMs (large language model) desde afuera se conecten, en vez de codificar un solo LLM vos mismo, es inherentemente más robusto, tanto porque te da diversidad de modelos en tiempo real como porque crea incentivos incorporados para que tanto los que presentan modelos como los especuladores externos estén atentos a estos problemas y los corrijan rápidamente.”
Imagen generada: Midjourney
Imagen destacada: Shutterstock/Zalevska Alona UA
Descargo de responsabilidad: El contenido de este artículo refleja únicamente la opinión del autor y no representa en modo alguno a la plataforma. Este artículo no se pretende servir de referencia para tomar decisiones de inversión.
También te puede gustar
Bitcoin y la estrategia de Saylor en riesgo: la capitalización de mercado de MSTR cae por debajo de sus tenencias en BTC
La caída de Bitcoin por debajo de los $90,000 ha provocado que las acciones de Strategy caigan por debajo del valor de las reservas de BTC de la compañía.
Grayscale afirma que el ciclo de 4 años de Bitcoin ya no es válido y prevé un máximo histórico del precio de BTC en 2026
Grayscale sostiene que el tradicional ciclo de mercado de cuatro años de bitcoin ya no es válido, señalando la ausencia de un repunte parabólico.
10 bancos europeos forman la empresa de stablecoin qivalis
Diez de los bancos más grandes de Europa se han unido para lanzar qivalis, una nueva iniciativa de stablecoin que debutará con una stablecoin respaldada por euros para 2026.
Larry Fink y Rob Goldstein de BlackRock dicen que la tokenización podría hacer por las finanzas lo que internet hizo por la información en sus inicios
Larry Fink y Rob Goldstein de BlackRock afirmaron que la tokenización está entrando en una fase similar a la de los primeros días de internet, con el potencial de transformar los mercados mucho más rápido de lo que la mayoría espera. Los ejecutivos señalaron un aumento del 300% en la tokenización de activos del mundo real en los últimos 20 meses como evidencia de que este cambio ya se está acelerando.
En tendencia
MásPrecios de las criptos
Más
