La inteligencia artificial ya no solo se evalúa por su capacidad para redactar textos, programar o responder preguntas. Anthropic está probando algo mucho más sensible: si los modelos pueden ayudar a identificar personas, ubicar objetivos y desarrollar software para drones en entornos militares simulados. ¿Qué tan cerca estamos de que estas tareas, antes reservadas a analistas y especialistas, sean accesibles para grupos con menos recursos?
Una nueva forma de medir el riesgo militar de la IA
El equipo Frontier Red Team de Anthropic diseñó evaluaciones para analizar dos áreas: la inteligencia de objetivos y la ingeniería de armas convencionales. El trabajo forma parte de una preocupación más amplia sobre el uso indebido de modelos avanzados en conflictos reales.
Hasta ahora, buena parte de la conversación sobre riesgos de IA se ha concentrado en ciberseguridad y biología. Sin embargo, muchos conflictos dependen de actividades más convencionales: localizar personas, interpretar información dispersa, guiar drones y superar sistemas de interferencia.
Estas tareas suelen describirse mediante una cadena conocida como kill chain: encontrar, fijar, seguir, apuntar, atacar y evaluar. Si la IA mejora cualquiera de esos pasos, puede reducir el tiempo, el costo y la experiencia necesarios para completar una operación.
El riesgo no depende únicamente de que un modelo pueda actuar por sí solo. También importa que vuelva accesibles conocimientos que antes eran escasos y costosos.
Modelos capaces de vincular identidades digitales
Una de las pruebas examinó si los modelos podían relacionar cuentas pertenecientes a una misma persona en plataformas como WhatsApp, Telegram, Instagram y Facebook. Para hacerlo, Anthropic utilizó contenido sintético que simulaba actividades de usuarios en dos escenarios ficticios.
El objetivo era comprobar si un modelo podía conectar distintas identidades digitales y clasificar a las personas según su posible relevancia para una investigación. La métrica utilizada fue F1, que combina precisión y cobertura para evaluar qué tan bien se identifican los casos correctos sin multiplicar los falsos positivos.
Mythos Preview obtuvo el mejor desempeño en la vinculación de cuentas y en la clasificación de individuos. Kimi K3, un modelo de pesos abiertos, se acercó a los modelos de frontera en los escenarios sencillos y medios, aunque perdió rendimiento cuando aumentaron el ruido y las medidas de protección de las identidades.
Anthropic advierte que estos datos no representan completamente el comportamiento humano real. El contenido sintético puede tener frases artificiales y patrones poco naturales. Por eso, los resultados sirven para comparar capacidades entre modelos, pero no deben interpretarse como una medición definitiva del rendimiento en operaciones reales.
Un dato llama especialmente la atención: una muestra mediana contenía cerca de 37.000 palabras. Un analista humano tardaría unas 2,5 horas en leerla y probablemente mucho más en cruzar toda la información. Mythos Preview produjo un análisis completo en aproximadamente 11 minutos.
La geolocalización ya se acerca al nivel experto
Anthropic también probó si los modelos podían estimar dónde se tomó una fotografía usando únicamente sus elementos visuales, sin metadatos, búsquedas inversas ni herramientas externas.
En 6.000 imágenes, Mythos Preview alcanzó un error mediano de 37 kilómetros y Mythos 5 de 47,2 kilómetros. Además, ambos ubicaron cerca del 23 por ciento de las imágenes a menos de un kilómetro del lugar correcto.
Como referencia, Anthropic comparó estos resultados con jugadores expertos de GeoGuessr. Los mejores competidores humanos presentados en el estudio registraron errores medianos de entre 151 y 174 kilómetros. La comparación no es perfecta, porque GeoGuessr utiliza imágenes de Street View y permite explorar la escena, mientras que la prueba de Anthropic empleó fotografías estáticas más variadas.
Opus 5 obtuvo un error mediano de 181 kilómetros, similar al nivel de jugadores humanos avanzados. Sonnet 5 llegó a 384 kilómetros. Kimi K3 registró 385 kilómetros, aunque ubicó un porcentaje mayor de imágenes dentro de un kilómetro que Sonnet 5.
La conclusión es relevante: los modelos más avanzados parecen combinar conocimiento del mundo y visión con suficiente eficacia para encontrar pistas geográficas que una persona podría pasar por alto. Un letrero, un estilo arquitectónico, un paisaje o un negocio local pueden convertirse en señales de ubicación.
Inferir una ubicación a partir de publicaciones
En otra evaluación, los modelos intentaron calcular la ciudad donde vivían usuarios anónimos a partir de sus publicaciones. El conjunto de datos contenía mensajes geolocalizados de casi 1.700 personas, pero se eliminaron nombres de usuario, menciones y retuits.
Al menos uno de los modelos ubicó con precisión de un kilómetro a 135 usuarios, cerca del 8 por ciento de la muestra. En el 70 por ciento de esos casos, las personas habían revelado la ubicación mediante referencias directas, como universidades, lugares conocidos, calles o códigos postales.
Pero en otro 13 por ciento, el modelo utilizó señales indirectas: dialecto, expresiones locales, programas de televisión, emisoras, líneas de transporte, eventos y equipos deportivos. Es decir, una persona no tiene que publicar su dirección para dejar suficientes pistas sobre dónde vive.
Mythos Preview obtuvo un error mediano de 20,1 kilómetros, seguido por Mythos 5 con 20,9 y Opus 5 con 21,7. Sonnet 5 registró 31,3 kilómetros y Kimi K3, 26,4 kilómetros.
Anthropic aplicó controles para evitar que los modelos simplemente recordaran el conjunto de datos o buscaran textos exactos en internet. Aun así, la empresa reconoce que un sistema con acceso más amplio a búsquedas y varias rondas de investigación podría lograr resultados más precisos.
Pruebas con drones en entornos simulados
La segunda parte del estudio analizó la capacidad de los modelos para escribir y mejorar software de control para drones en simuladores. Las pruebas incluían navegación, seguimiento visual de un objetivo, entrega de una carga simulada y operación con señales de posicionamiento degradadas o manipuladas.
Los modelos recibían un informe escrito, un entorno de programación y datos de cada intento, como trayectorias, lecturas de sensores y capturas de cámara. Después podían modificar su software y volver a probarlo dentro de un número limitado de lanzamientos.
Los resultados mostraron una diferencia clara entre los modelos. En los escenarios más sencillos, Opus 5 logró el mejor desempeño, seguido por Mythos Preview y Mythos 5. Kimi K3 superó a Sonnet 5 en algunas pruebas, especialmente en la entrega de cargas simuladas, pero quedó por detrás de los modelos de frontera en navegación y seguimiento.
En los escenarios más difíciles, con objetivos poco visibles, obstáculos, movimiento impredecible o interferencias de posicionamiento, el rendimiento de todos los modelos cayó con fuerza. Ninguno resolvió de forma consistente todas las condiciones evaluadas.
Anthropic observó que Opus 5 tendía a hacer cambios pequeños y progresivos en su código, mientras que otros modelos reescribían partes más grandes del sistema. También utilizó modelos internos de física y técnicas más sofisticadas de estimación y control. Este comportamiento le permitió aprovechar mejor el número limitado de pruebas disponibles.
Por qué la simulación no cuenta toda la historia
Los resultados no significan que un modelo pueda construir por sí solo un sistema militar confiable. Las pruebas no incluyeron hardware real, fabricación, mantenimiento, condiciones atmosféricas completas ni todos los problemas que aparecen en un campo de batalla.
De hecho, los propios autores describen estas evaluaciones como un piso, no como un techo. Un grupo real podría ofrecer al modelo acceso a más información, mejores cámaras, más pruebas, asistencia humana y herramientas especializadas. Todo eso podría elevar el rendimiento.
También existen límites materiales. Tener un modelo capaz de escribir software no equivale a disponer de sensores, componentes, infraestructura o personal para desplegar un sistema funcional. La pregunta importante es cuánto puede reducir la IA esas barreras con el tiempo.
El problema no pertenece a un solo laboratorio
La conclusión central de Anthropic es que tanto los modelos propietarios como los de pesos abiertos ya muestran capacidades preocupantes en inteligencia y sistemas militares simulados. Los modelos de pesos abiertos están por detrás de los mejores modelos comerciales, pero no lo suficiente como para considerarlos irrelevantes desde el punto de vista de la seguridad.
Esto plantea decisiones difíciles para desarrolladores y gobiernos. ¿Qué tareas deberían evaluarse antes de publicar un modelo? ¿Cómo se puede proteger la privacidad cuando una publicación aparentemente inocente permite inferir una ubicación? ¿Qué controles deben aplicarse cuando un sistema puede ayudar a desarrollar software de navegación o control?
La discusión tampoco se limita a drones. Anthropic anticipa que avances similares podrían influir en sistemas espaciales, operaciones submarinas y otras áreas donde sea valioso interpretar el entorno y reaccionar rápidamente.
La IA aplicada a la seguridad nacional no es una posibilidad lejana. Ya está siendo probada, utilizada y medida. El desafío consiste en entender con precisión qué capacidades están madurando, limitar sus usos dañinos y evitar que la reducción del costo del conocimiento amplíe el número de actores capaces de causar daño.
Fuente original
https://www.anthropic.com/research/intelligence-targeting-conventional-weapons-capabilities