¿De dónde aprende un modelo de IA a interpretar emociones, intenciones o decisiones morales cotidianas? Un equipo de Georgia Tech utilizó el ecosistema abierto Olmo para rastrear qué tipos de textos influyen en esas capacidades y probar si esos datos realmente tienen un efecto causal.
Una lupa sobre los datos de entrenamiento
Glenn Matlin y Chandreyi Chakraborty estudiaron el razonamiento social de un modelo de lenguaje: su capacidad para entender lo que las personas creen, sienten o intentan hacer en una situación determinada.
Para investigar el origen de esa habilidad usaron funciones de influencia, una técnica que estima cuánto contribuyó cada documento de entrenamiento a una respuesta concreta del modelo. Ese documento puede ser un artículo, una publicación web, una página técnica o un texto literario.
La idea es sencilla, aunque el análisis sea complejo: si se suman las influencias de muchos documentos, los investigadores pueden identificar qué categorías de contenido parecen respaldar una capacidad específica.
No basta con saber qué responde un modelo. También importa entender qué partes de sus datos ayudaron a producir esa respuesta.
El estudio solo era viable con un modelo completamente abierto. Por eso el equipo eligió Olmo 3, desarrollado por Ai2. Además de sus pesos, el proyecto publica sus datos de entrenamiento, puntos de control del modelo y herramientas de evaluación.
El ecosistema abierto de Olmo
La investigación combinó cinco componentes del proyecto:
- Olmo 3, el modelo de lenguaje analizado.
- Dolma 3, el conjunto de datos usado para entrenarlo.
- WebOrganizer, que clasifica los documentos según temas y formatos.
- OlmoEval, con pruebas para medir distintas capacidades.
- OLMES, un estándar compartido para puntuar las evaluaciones.
Dolma 3 contiene aproximadamente 1.260 millones de documentos, una cantidad demasiado grande para revisar documento por documento. El equipo seleccionó una muestra estratificada de unos 5,68 millones, distribuida entre las 576 categorías del conjunto de datos.
Después calculó cuánto influía cada documento en las respuestas de Olmo 3 y agrupó los resultados por categoría. El proceso se repitió en cuatro pruebas:
- SocialIQA, centrada en razonamiento sobre situaciones sociales.
- ARC-Challenge, orientada al razonamiento general.
- Los conjuntos de ciencias sociales de MMLU, para conocimiento factual.
- Los conjuntos STEM de MMLU, también enfocados en conocimiento factual.
Así, cada benchmark obtuvo un perfil propio: una especie de mapa que mostraba qué clases de documentos tenían mayor relación con las respuestas del modelo.
La literatura y los diálogos pesan en el razonamiento social
El resultado más interesante no fue una división simple entre contenido “social” y “científico”. El conocimiento de ciencias sociales se parecía más al conocimiento STEM y al razonamiento general que al razonamiento social evaluado por SocialIQA.
SocialIQA fue el caso diferente. Las respuestas del modelo estuvieron más relacionadas con textos narrativos e interpersonales, como literatura, vida social, atención al cliente y conversaciones de preguntas y respuestas.
En cambio, las otras pruebas recibieron más influencia de material expositivo, como documentación técnica y textos científicos. Según los investigadores, las categorías con más diálogo y lenguaje emocional influyeron en el razonamiento social más que en cualquiera de las otras evaluaciones.
¿Significa esto que basta con agregar novelas para crear un modelo más empático? No tan rápido. El estudio no propone una receta automática. Lo que muestra es que ciertos tipos de lenguaje podrían aportar estructuras útiles para interpretar relaciones, intenciones y emociones.
Además, los textos ricos en diálogos y relaciones interpersonales también tuvieron más influencia en las pruebas de razonamiento general que en las de conocimiento factual. Esto sugiere que ese material podría contribuir a razonar, no solo a responder preguntas sobre situaciones sociales.
Una prueba causal con Olmo 3
Encontrar una correlación no demuestra que un conjunto de datos sea responsable de una capacidad. Por eso Matlin y Chakraborty realizaron una segunda prueba.
El equipo hizo que Olmo 3 olvidara los documentos más influyentes dentro de la categoría de literatura de Dolma 3, que era la más relacionada con su rendimiento en razonamiento social. Luego comparó el resultado con la eliminación de documentos seleccionados al azar dentro de la misma categoría.
La puntuación de Olmo 3 en SocialIQA cayó más cuando se retiraron los documentos identificados como influyentes. Ese resultado refuerza la posibilidad de que algunos textos hayan contribuido de manera causal a la capacidad, aunque no convierte el hallazgo en una explicación completa del comportamiento del modelo.
Esta distinción es importante. Las funciones de influencia ofrecen una estimación sobre el impacto de los datos, pero interpretar un modelo de lenguaje sigue siendo una tarea con incertidumbre. La influencia de un documento puede depender del resto del corpus, del estado del modelo y de la forma en que se evalúa la capacidad.
Por qué importa que el modelo sea abierto
Hasta ahora, rastrear una capacidad a través de un conjunto de entrenamiento completo era una tarea reservada principalmente para grandes laboratorios con acceso interno a sus datos, modelos y herramientas.
En este caso, un equipo externo pudo trabajar con una parte sustancial del mismo ecosistema científico porque Ai2 publicó los artefactos necesarios. Esa apertura permite repetir experimentos, cuestionar resultados y explorar métodos de auditoría que serían difíciles de aplicar sobre modelos cerrados.
Para investigadores de seguridad de IA, esto representa algo más que acceso a los pesos del modelo. También permite estudiar los datos, comparar puntos de control, revisar las evaluaciones y conectar los comportamientos observados con decisiones concretas del entrenamiento.
A largo plazo, este tipo de análisis podría ayudar a decidir qué datos conviene enriquecer, reponderar o retirar durante el entrenamiento. No ofrece una fórmula como “más literatura produce mejor razonamiento social”, pero sí aporta una forma más informada de investigar qué contribuye cada tipo de contenido.
La IA no aprende sus capacidades desde una sola fuente identificable. Las construye a partir de millones de interacciones entre datos, arquitectura, entrenamiento y evaluación. Tener acceso a ese proceso no elimina el misterio, pero permite convertirlo en una pregunta científica que otros investigadores pueden comprobar.