Cuando preguntas a un modelo de IA qué hace un medicamento, su respuesta puede sonar precisa y convincente. Pero ¿está recordando información sobre ese fármaco o simplemente está interpretando su nombre? Un nuevo estudio sobre Olmo 3 muestra que, en muchos casos, la diferencia es importante, especialmente cuando hablamos de salud.
El atajo está en el nombre del medicamento
Muchos fármacos incluyen terminaciones que revelan su clase farmacológica. Por ejemplo, nombres terminados en -pril, -olol o -azoline pueden dar pistas sobre el tipo de medicamento y sus posibles usos.
Ese patrón permite que un modelo genere una respuesta razonable sin tener conocimientos específicos sobre cada fármaco. Es parecido a reconocer que una palabra pertenece a una familia por su terminación, aunque no conozcas exactamente su significado.
El equipo liderado por Kaijie Mo, de la Universidad de Texas en Austin, estudió este comportamiento en Olmo 3 7B Instruct, un modelo desarrollado por Ai2. La elección no fue casual: Olmo 3 tiene pesos, datos de entrenamiento, documentación y versiones intermedias disponibles públicamente.
En medicina, observar que un modelo se equivoca no siempre basta. También es importante entender por qué llegó a esa respuesta.
Qué descubrieron los investigadores
Los investigadores diseñaron una prueba para separar tres posibles fuentes de información:
- El afijo, como la terminación compartida por varios medicamentos.
- El tallo, es decir, la parte específica del nombre del fármaco.
- El conocimiento real sobre un medicamento concreto.
Para hacerlo, reemplazaron el tallo, el afijo o ambos por cadenas inventadas sin significado. Después compararon cómo cambiaban las respuestas del modelo frente a nombres reales.
Los resultados fueron llamativos. Entre el 12% y el 18% de los medicamentos evaluados parecían provocar respuestas guiadas principalmente por su afijo. En esos casos, el modelo podía inferir la clase general del fármaco a partir de la terminación.
Pero hubo un grupo todavía mayor: entre el 51% y el 59% de los medicamentos mostraron pocas señales de conocimiento específico. Las respuestas ante un nombre real apenas se diferenciaban de las respuestas ante un nombre inventado.
Dicho de forma sencilla, el modelo podía parecer informado aunque no demostrara saber mucho sobre ese medicamento en particular.
La frecuencia en los datos de entrenamiento importa
El equipo también buscó los nombres de los fármacos en el corpus abierto usado para entrenar Olmo. Para ello empleó infini-gram, una herramienta capaz de localizar frases exactas en conjuntos de datos masivos.
La relación fue clara: cuanto menos aparecía un medicamento en los datos de entrenamiento, más probable era que el modelo dependiera de su afijo en lugar de utilizar información específica sobre el fármaco.
Esto ayuda a explicar por qué un sistema puede responder bien sobre medicamentos conocidos y, al mismo tiempo, mostrarse mucho menos fiable con nombres poco frecuentes. El modelo generaliza a partir de patrones disponibles, pero esa generalización no equivale necesariamente a conocimiento médico.
Generalizar no siempre es un problema
Usar la terminación de un medicamento no es automáticamente una falla. Los afijos suelen contener información farmacológica real y pueden ayudar a identificar una clase terapéutica.
El problema aparece cuando esa pista sustituye al conocimiento sobre la dosis, las contraindicaciones, las interacciones, los efectos secundarios o el uso clínico de un medicamento específico. Una respuesta que acierta la categoría general todavía puede equivocarse en los detalles que más importan.
Por eso, una IA podría identificar que un fármaco pertenece a cierto grupo y aun así ofrecer una recomendación insegura. En temas de salud, sonar convincente no es lo mismo que estar fundamentado.
Por qué los modelos abiertos son importantes
El estudio también plantea una discusión más amplia sobre la auditoría de la inteligencia artificial. En un modelo cerrado, los investigadores pueden analizar sus respuestas, pero normalmente no tienen acceso a los datos de entrenamiento, los pesos ni las versiones intermedias del sistema.
Olmo 3 permitió conectar tres elementos: el comportamiento observado, los posibles mecanismos internos y la información presente en los datos de entrenamiento. Esa trazabilidad hace posible investigar no solo qué responde un modelo, sino también de dónde podría venir su respuesta.
Para sistemas utilizados en medicina, este nivel de análisis puede ser decisivo. Permite detectar atajos, validar resultados y diseñar evaluaciones más exigentes antes de que una herramienta llegue a pacientes o profesionales.
La transparencia no garantiza que un modelo sea correcto, pero sí facilita descubrir cuándo no lo es y entender cómo mejorarlo.
La lección también aplica a quienes usan IA en su vida diaria. Si una respuesta sobre un medicamento parece segura porque reconoce su nombre, conviene detenerse. ¿El modelo está citando información concreta o solo está completando un patrón familiar?
En asuntos médicos, la IA puede servir como apoyo para organizar preguntas y buscar explicaciones generales, pero no debe reemplazar la consulta con un profesional ni la verificación en fuentes médicas confiables. El nombre de un fármaco puede ofrecer una pista, pero una pista no es una historia clínica.