En investigación con AE Studio, Anthropic presenta GRAM, una técnica experimental para dar a los modelos de lenguaje compartimentos removibles de conocimiento dual. ¿Te imaginas poder quitar solo la parte que sabe cómo explotar una vulnerabilidad sin destruir todo lo demás que hace útil al modelo? Eso es lo que proponen aquí, con advertencias importantes: es temprano, técnico y aun lejos de producción.
Qué es GRAM y por qué importa
GRAM significa Gradient-Routed Auxiliary Modules. La idea central es simple en su intuición: en lugar de dejar que todo el conocimiento aprenda y se disperse por los weights del modelo, se crean módulos dedicados a categorías de conocimiento de doble uso (por ejemplo virología, ciberseguridad). Cada módulo es un conjunto de neuronas añadidas a cada capa del Transformer.
Durante el entrenamiento, el modelo aprende del texto general como siempre. Pero cuando el ejemplo pertenece a una categoría dual, solo el módulo correspondiente puede actualizarse; las partes generales del modelo quedan temporalmente congeladas. Así, el conocimiento específico se acumula en ese módulo y no se dispersa por toda la red. ¿Resultado práctico? El módulo puede borrarse en deployment y la capacidad peligrosa desaparece con él, o puede dejarse para usuarios confiables.
