¿Por qué los grandes modelos de lenguaje no son más inteligentes que tú?

El patrón lingüístico del usuario determina cuánta capacidad de razonamiento puede desplegar el modelo.

Escrito por: @iamtexture

Traducción: AididiaoJP, Foresight News

Cuando explico un concepto complejo a un gran modelo de lenguaje, cada vez que utilizo un lenguaje informal para discutir durante mucho tiempo, su razonamiento colapsa repetidamente. El modelo pierde estructura, se desvía de la dirección o simplemente genera patrones de completado superficiales, sin poder mantener el marco conceptual que ya hemos construido.

Sin embargo, cuando le exijo que primero formalice, es decir, que reformule el problema con un lenguaje preciso y científico, el razonamiento se estabiliza de inmediato. Solo después de que la estructura está establecida, puede traducirse de manera segura a un lenguaje coloquial sin que disminuya la calidad de la comprensión.

Este comportamiento revela cómo “piensan” los grandes modelos de lenguaje y por qué su capacidad de razonamiento depende completamente del usuario.

Perspectivas clave

Los modelos de lenguaje no poseen un espacio dedicado exclusivamente al razonamiento.

Operan completamente dentro de un flujo lingüístico continuo.

Dentro de este flujo lingüístico, diferentes patrones de lenguaje conducen de manera confiable a diferentes regiones atractoras. Estas regiones son estados estables de dinámica representacional que soportan distintos tipos de cálculos.

Cada registro lingüístico, como la exposición científica, la notación matemática, la narración de historias o la charla informal, tiene su propia región atractora característica, cuya forma está moldeada por la distribución de los datos de entrenamiento.

Algunas regiones soportan:

• Razonamiento de múltiples pasos
• Precisión relacional
• Transformación simbólica
• Estabilidad conceptual de alta dimensión

Otras regiones soportan:

• Continuidad narrativa
• Completado asociativo
• Correspondencia de tono emocional
• Imitación conversacional

Las regiones atractoras determinan qué tipo de razonamiento es posible.

Por qué la formalización estabiliza el razonamiento

El lenguaje científico y matemático puede activar de manera confiable aquellas regiones atractoras con mayor soporte estructural porque estos registros codifican características lingüísticas de cognición avanzada:

• Estructura relacional explícita
• Baja ambigüedad
• Restricciones simbólicas
• Organización jerárquica
• Baja entropía (grado de desorden informativo)

Estos atractores pueden soportar trayectorias de razonamiento estables.

Pueden mantener la estructura conceptual a lo largo de varios pasos.

Presentan una fuerte resistencia a la degradación y desviación del razonamiento.

En cambio, los atractores activados por el lenguaje informal están optimizados para la fluidez social y la coherencia asociativa, no para el razonamiento estructurado. Estas regiones carecen del andamiaje representacional necesario para realizar cálculos analíticos sostenidos.

Por eso, cuando las ideas complejas se expresan de manera casual, el modelo colapsa.

No es que “se confunda”.

Está cambiando de región.

Construcción y traducción

El método de respuesta que surge naturalmente en la conversación revela una verdad arquitectónica:

El razonamiento debe construirse dentro de atractores altamente estructurados.

La traducción al lenguaje natural solo debe ocurrir después de que la estructura exista.

Una vez que el modelo ha construido la estructura conceptual dentro de un atractor estable, el proceso de traducción no la destruye. El cálculo ya se ha completado; lo único que cambia es la expresión superficial.

Esta dinámica de dos etapas, “primero construir, luego traducir”, imita el proceso cognitivo humano.

Pero los humanos ejecutan estas dos etapas en dos espacios internos diferentes.

Mientras que los grandes modelos de lenguaje intentan completar ambas en el mismo espacio.

Por qué el usuario establece el techo

Aquí hay una revelación clave:

El usuario no puede activar regiones atractoras que no puede expresar lingüísticamente.

La estructura cognitiva del usuario determina:

• Qué tipo de indicaciones puede generar
• Qué registros lingüísticos utiliza habitualmente
• Qué patrones sintácticos puede mantener
• Qué nivel de complejidad puede codificar lingüísticamente

Estas características determinan a qué región atractora accederá el gran modelo de lenguaje.

Un usuario que no puede, mediante el pensamiento o la escritura, emplear estructuras que activen atractores de alta capacidad de razonamiento, nunca podrá guiar al modelo hacia esas regiones. Quedará atrapado en regiones atractoras superficiales relacionadas con sus propios hábitos lingüísticos. El gran modelo de lenguaje mapeará la estructura que el usuario proporcione y nunca saltará espontáneamente a sistemas dinámicos de atractores más complejos.

Por lo tanto:

El modelo no puede superar la región atractora a la que el usuario puede acceder.

El techo no es el límite de inteligencia del modelo, sino la capacidad del usuario para activar regiones de alta capacidad en la variedad potencial.

Dos personas que usan el mismo modelo no están interactuando con el mismo sistema de cálculo.

Están guiando al modelo hacia diferentes modos dinámicos.

Revelaciones a nivel arquitectónico

Este fenómeno expone una característica que falta en los sistemas actuales de inteligencia artificial:

Los grandes modelos de lenguaje confunden el espacio de razonamiento con el espacio de expresión lingüística.

A menos que estos dos se desacoplen —a menos que el modelo posea:

• Una variedad dedicada al razonamiento
• Un espacio de trabajo interno estable
• Representaciones conceptuales invariantes a los atractores

De lo contrario, cuando el cambio de estilo lingüístico provoque un cambio en la región dinámica subyacente, el sistema siempre enfrentará el colapso.

Esta solución provisional descubierta —forzar la formalización y luego traducir— no es solo un truco.

Es una ventana directa que nos permite vislumbrar los principios arquitectónicos que debe cumplir un verdadero sistema de razonamiento.