La inteligencia artificial aplicada a imágenes satelitales puede ayudar a detectar cambios en manglares, identificar las causas de la pérdida forestal o crear mapas agrícolas a escala nacional. Pero trabajar con cientos de miles de kilómetros cuadrados también implica un problema muy concreto: el costo computacional.
Allen Institute for AI presentó OlmoEarth v1.1, una nueva familia de modelos para teledetección que reduce hasta tres veces el consumo de cómputo frente a OlmoEarth v1, sin perder su rendimiento general en distintos benchmarks y tareas desarrolladas junto con organizaciones asociadas.
Menos cómputo para observar más territorio
Desde el procesamiento inicial de los datos hasta la inferencia y el postprocesamiento, ejecutar modelos sobre imágenes satelitales exige una gran cantidad de recursos. En despliegues nacionales, continentales o globales, esa factura puede determinar qué proyectos son viables y cuáles deben esperar.
OlmoEarth v1.1 busca resolver parte de ese desafío. Según Ai2, los modelos de la nueva familia pueden ejecutarse con hasta un tercio del cómputo utilizado por OlmoEarth v1. Esto puede acelerar el ajuste especializado, conocido como fine-tuning, y la generación de predicciones durante la inferencia.
¿Qué significa en la práctica? Actualizar con mayor frecuencia un mapa global de cultivos o monitorear la evolución de una zona forestal podría requerir menos tiempo y presupuesto.
La clave está en reducir los tokens
OlmoEarth utiliza una arquitectura basada en transformers. Para que el modelo pueda analizar imágenes satelitales, los datos se convierten primero en una secuencia de unidades llamadas tokens.
Un token puede entenderse como una representación compacta de una parte de la información de entrada. En el caso de Sentinel-2, esa entrada contiene dimensiones espaciales, información temporal y 12 canales espectrales. Además, las imágenes se organizan en distintas resoluciones: 10, 20 y 60 metros.
En OlmoEarth v1, cada fragmento espacial generaba un token separado para cada momento y resolución. Por ejemplo, una imagen con dos momentos temporales podía producir seis tokens por parche: dos momentos multiplicados por tres resoluciones.
La cantidad total crecía de acuerdo con la fórmula H/p x W/p x T x 3, donde H y W representan las dimensiones de la imagen, p el tamaño del parche y T el número de momentos observados.
Un cambio pequeño con impacto cuadrático
En los transformers, el costo computacional de la atención suele crecer de forma cuadrática con la longitud de la secuencia. Dicho de manera sencilla: si duplicas los tokens, el trabajo no necesariamente se duplica, puede crecer mucho más.
Por eso, combinar la información de las tres resoluciones en un solo token permite reducir la secuencia hasta tres veces. El ahorro se aplica durante el preentrenamiento, el ajuste especializado y la inferencia.
Pero había un riesgo. Las resoluciones contienen relaciones importantes entre bandas espectrales, y una combinación demasiado directa provocaba una caída significativa del rendimiento. En una prueba de m-eurosat kNN, por ejemplo, el enfoque ingenuo generaba una pérdida de 10 puntos porcentuales.
La solución no consistió únicamente en unir tokens. Ai2 también modificó el régimen de preentrenamiento para que el modelo aprendiera a conservar las relaciones entre bandas dentro de una representación más compacta. Los detalles metodológicos se presentan en el trabajo técnico del proyecto.
Una familia para distintos presupuestos
OlmoEarth v1.1 estará disponible en diferentes tamaños, incluidos los modelos Base, Tiny y Nano. Esta variedad permite elegir una alternativa según el presupuesto de cómputo, la latencia esperada y la escala del proyecto.
Para un equipo que ya utiliza OlmoEarth v1, la recomendación es probar la nueva versión en su tarea específica. El rendimiento es similar en términos generales, aunque Ai2 advierte que existen algunas regresiones en determinados escenarios.
La ventaja más clara aparece cuando se necesitan ejecuciones frecuentes. Un modelo más barato puede facilitar actualizaciones periódicas de mapas, experimentos con más configuraciones y despliegues que antes resultaban demasiado costosos.
Por qué también importa a los investigadores
Los modelos de teledetección tienen muchas variables: arquitectura, conjunto de datos, resolución, estrategia de tokenización y método de preentrenamiento. Cuando cambia el rendimiento, no siempre es fácil saber cuál de esos elementos fue responsable.
Para hacer una comparación más controlada, Ai2 entrenó OlmoEarth v1.1 con el mismo conjunto de datos utilizado en OlmoEarth v1. De esta forma, las diferencias pueden atribuirse principalmente a los cambios metodológicos relacionados con la eficiencia.
Este enfoque ayuda a estudiar una pregunta fundamental: ¿cómo se puede entrenar un modelo de imágenes satelitales que mantenga sus capacidades mientras utiliza menos recursos? La respuesta no solo afecta a grandes laboratorios. También puede abrir la puerta a universidades, organizaciones ambientales y equipos pequeños que no cuentan con enormes presupuestos de infraestructura.
IA planetaria con una barrera de entrada más baja
OlmoEarth v1.1 muestra que hacer un modelo más eficiente no significa simplemente reducir su tamaño. También implica replantear cómo se representa la información y cómo se entrena el sistema para que una compresión no destruya las señales relevantes.
Si la nueva versión mantiene resultados competitivos con una fracción del cómputo, el impacto puede sentirse en todo el ciclo de trabajo: desde el entrenamiento hasta la actualización de mapas a escala planetaria. La inteligencia artificial para observar la Tierra no se vuelve mágica, pero sí un poco más accesible, rápida y sostenible.