Buterin impulsa a Info Finance para detener los exploits en la gobernanza de la IA

• Vitalik advierte que la gobernanza ingenua de la IA es vulnerable a manipulaciones y explotaciones.
• La info finance genera diversidad de modelos y correcciones rápidas, haciendo la gobernanza de la IA más segura.
• Los mercados de predicción y las verificaciones aleatorias ayudan a asegurar la toma de decisiones y el financiamiento de la IA.

El cofundador de Ethereum, Vitalik Buterin, advirtió que los modelos ingenuos de gobernanza de la IA presentan riesgos serios y señaló que los marcos que dependen de la IA para la financiación o la toma de decisiones siguen siendo vulnerables a manipulaciones y explotaciones. En su opinión, estos sistemas permiten que actores maliciosos desvíen recursos; sin embargo, él aboga por un enfoque llamado “info finance”, diseñado para construir responsabilidad y prevenir el mal uso a través de mercados, supervisión humana y controles.

El caso en contra de la gobernanza ingenua de la IA

Buterin enfatizó que la gobernanza ingenua de la IA es riesgosa y agregó que si se utiliza la IA para asignar fondos, las personas podrían manipularla con prompts a su elección y obtener dinero en exceso. Explicó además que si los modelos funcionaran sin restricciones ni directrices, podrían ser mal utilizados, incentivando así a hackers a usar prompts y engañar a la IA para liberar recursos incorrectos. 

Estas vulnerabilidades ponen a la IA en un ciclo potencialmente peligroso. Además, Buterin reveló debilidades sistémicas que, si no se controlan, podrían ser manipuladas. Ataques invisibles e inyecciones de prompts son ejemplos de cómo los atacantes pueden aprovecharse fácilmente.

Info Finance como alternativa

Buterin opta por la info finance en lugar de la gobernanza ingenua, describiéndola como un enfoque de “diseño institucional”, que combina la competencia de mercado abierto con la verificación humana. Él dijo,

Como alternativa, apoyo el enfoque de info finance, donde existe un mercado abierto en el que cualquiera puede contribuir con sus modelos, los cuales están sujetos a un mecanismo de verificación aleatoria que puede ser activado por cualquiera y evaluado por un jurado humano.

Detalló que la Info Finance permite que contribuyentes externos integren modelos de lenguaje grande (LLMs) sin codificar rígidamente un solo sistema. Esto permitirá la diversidad de modelos, reduciendo así la posibilidad de fallas generalizadas. También crea incentivos para que desarrolladores y especuladores estén atentos a fallas y actúen rápidamente cuando surjan problemas.

Un mecanismo propuesto implica mercados de predicción o mercados de decisión. Varios modelos competirían y los participantes podrían apostar sobre los resultados, señalando cuáles modelos parecen más confiables. Jurados o auditores humanos verificarían periódicamente los resultados, especialmente en casos de alto riesgo.

Relacionado: Las tesorerías de ETH aumentan a $12B mientras Vitalik advierte sobre riesgos de apalancamiento

Implicancias para cripto y mercados

La info finance se basa en la responsabilidad en capas, y es notable en la competencia abierta, que permite desafiar o reemplazar modelos defectuosos. La supervisión humana se agrega a través de jurados y auditorías. Los incentivos económicos impiden la manipulación, mientras que la transparencia hace visible el comportamiento malicioso.

Al vincular la gobernanza de la IA con blockchain y el trading, Buterin sugiere que las fallas en la IA centralizada podrían aumentar el interés en soluciones descentralizadas, principalmente construidas sobre Ethereum. Además, tokens como RNDR de Render Network y GRT de The Graph proveen infraestructura para cálculos de IA, beneficiándose así del desarrollo. Asimismo, los traders también podrían usar ETH y estos tokens para arbitraje en medio de la volatilidad del mercado. 

Los datos on-chain indican que hay más transacciones de ETH asociadas con contratos inteligentes relacionados con IA y que los problemas de gobernanza de la IA pueden impactar también en acciones tecnológicas, con empresas como NVIDIA y Microsoft involucradas en inversiones en IA. En general, Buterin señaló que la Info Finance permite correcciones más rápidas, reemplazando modelos defectuosos y penalizando a los infractores. También agregó que los controles de jurado y las verificaciones aleatorias evitarán que las explotaciones se propaguen.

La publicación Buterin impulsa la Info Finance para detener explotaciones en la gobernanza de la IA apareció primero en Cryptotale.