Vitalik Buterin destaca las limitaciones de la excesiva autonomía de la IA y aboga por una mayor interacción humana.

El cofundador de Ethereum, Vitalik Buterin, compartió recientemente su frustración en la red social X con respecto al enfoque adoptado por muchos desarrolladores de IA para maximizar la naturaleza "agent" de los sistemas de IA. Argumentó que centrarse en aumentar la autonomía de la IA no es tan efectivo como brindar más oportunidades para la participación humana, lo que no solo genera mejores resultados a largo plazo, sino que también mejora la seguridad.

“Hoy en día, me entusiasman mucho más los modelos de IA de peso abierto con buena funcionalidad de edición que aquellos que solo se crean desde cero”, dijo en una publicación.

"A mediano plazo, quiero algún sistema BCI sofisticado que me muestre cómo se genera el elemento y detecte en tiempo real cómo me siento respecto a cada parte y se ajuste en consecuencia", agregó.

Los desafíos de la excesiva autonomía en la IA y la promesa de modelos interactivos y adaptables al usuario

Vitalik Buterin reaccionó a una publicación del exdirector de inteligencia artificial de Tesla, Andrej Karpathy, quien señaló que los modelos de lenguaje grande (LLM) se están volviendo excesivamente autónomos a medida que están optimizados para tareas a largo plazo. 

Andrej Karpathy explicó que, por ejemplo, en la codificación, estos modelos ahora tienden a razonar durante períodos prolongados, mostrando una tendencia a buscar en repositorios enteros, realizar búsquedas web repetidamente, sobreanalizar casos extremos raros, incluso en código que se sabe que está incompleto o activamente bajo desarrollo, y a menudo regresan minutos después para responder incluso consultas simples.

Esto podría tener sentido para tareas de larga duración, pero es menos adecuado para el desarrollo iterativo más 'en bucle' que sigo realizando con frecuencia, o cuando simplemente busco una comprobación rápida antes de ejecutar un script, por si acaso cometí un error de indexación o cualquier otro error simple. A menudo interrumpo las LLM con variaciones de: "Para, le estás dando demasiadas vueltas. Céntrate solo en este archivo. No uses ninguna herramienta. No sobredimensiones el diseño"", declaró Andrej Karpathy en una publicación.

Vitalik Buterin coincidió con la opinión de que la autonomía excesiva en la inteligencia artificial puede reducir la eficiencia. Argumentó que los modelos de código abierto con funciones de edición son significativamente más eficaces que aquellos diseñados exclusivamente para crear contenido desde cero. 

El cofundador de Ethereum también destacó el potencial de las interfaces cerebro-computadora que monitorean las reacciones de los usuarios al contenido generado en tiempo real y se ajustan en consecuencia. Esta tecnología permitiría a los sistemas de IA comprender mejor las intenciones y expectativas de los usuarios y responder a ellas. Señaló que muchos modelos actuales de IA a menudo no tienen en cuenta estos matices sutiles, lo que limita su utilidad general.