Anthropic, por medio de Dario Amodei, aclara que no busca prohibir los modelos de pesos abiertos y explica por qué considera que la respuesta correcta a los riesgos de la IA no es una prohibición general. El texto distingue dos amenazas principales y propone medidas concretas para mitigarlas, desde control de chips hasta pruebas de seguridad obligatorias.
Qué dijo Anthropic y por qué importa
En una carta pública, Dario Amodei (CEO de Anthropic) rechaza la idea de que la compañía apoye una prohibición de los modelos de pesos abiertos. ¿Por qué esto es relevante? Porque el debate combina preocupaciones legítimas de seguridad con presiones políticas y comerciales.
Anthropic resume su posición así:
- Los modelos de
pesos abiertosque no tienen capacidades peligrosas son un bien público: económicos de usar y útiles para negocios, investigadores y desarrolladores. - Prohibir su uso por parte de empresas de un país no resuelve los problemas de seguridad más graves. Muchas amenazas vienen de actores autoritarios o de malos actores fuera del ámbito regulado.
¿Te suena familiar? En América Latina hemos visto cómo el acceso abierto puede impulsar emprendimientos mínimos y soluciones locales. Pero también sabemos que la apertura tiene riesgos cuando la tecnología escala rápido y sin responsabilidades.
Los dos riesgos que preocupa a Anthropic
Amodei sigue dos líneas de preocupación que ya había explicado en su ensayo "The Adolescence of Technology":
-
Riesgo principal: gobiernos autoritarios podrían construir modelos más poderosos y usarlos para ventaja militar o represión interna. Aquí lo crítico no es si los pesos son abiertos: el peligro real es que esos modelos existan y se usen en secreto para control y armamento.
-
Riesgo secundario: modelos potentes —abiertos o cerrados— podrían facilitar ciberataques, ataques biológicos o fallos de alineación. Los
pesos abiertosaumentan la dificultad de aplicar salvaguardas y de monitorear usos porque, una vez liberados, no se pueden retirar.
Pero prohibir el uso por empresas legítimas no detiene a malos actores. Ahí está el nudo del argumento.
Qué propone Anthropic (tres medidas claras)
Anthropic no pide prohibiciones generales; propone políticas concretas y dirigidas:
-
No vender chips y equipo de fabricación avanzados a actores hostiles. La idea es cortar el acceso al hardware que permite entrenar modelos de frontera.
-
Perseguir la distillation a escala industrial. La distillation es un proceso que permite, con menos recursos, crear modelos sorprendentemente potentes a partir de otros. Si se usa a gran escala con apoyo estatal, puede reducir la efectividad de las restricciones sobre chips.
-
Requerir pruebas de seguridad obligatorias para todos los modelos suficientemente capaces, sean
pesos abiertoso cerrados. Estas pruebas deben evaluar riesgos cibernéticos, biológicos y de alineación antes de cualquier liberación.
Estas medidas se enfoquen en la raíz del problema: quién tiene la capacidad para entrenar y desplegar modelos peligrosos y cómo verificamos que los modelos no representen amenazas reales.
Sobre la carta en favor de pesos abiertos
Anthropic reconoce valores reales detrás de la carta que promueve la apertura: acceso, competencia y control por parte del cliente.
Sin embargo, no está de acuerdo con la idea de que la apertura facilite necesariamente el desarrollo de salvaguardas o que siempre favorezca a los defensores sobre los atacantes. En áreas como la biología, la ventaja puede inclinarse hacia el atacante; desarrollar defensas robustas toma tiempo y recursos.
Por eso Amodei insiste en que la respuesta debe ser empírica: probar modelos antes de su liberación y dejar que los datos guíen las decisiones regulatorias.
¿Qué implica esto para la política pública y para ti?
-
Las políticas efectivas son específicas: control de hardware, regulación de prácticas industriales (como distillation) y pruebas obligatorias para modelos avanzados.
-
Necesitamos colaboración internacional. Un marco de pruebas eficaz tendría que ser global para funcionar: si un país queda fuera, el riesgo persiste.
-
Para emprendedores y desarrolladores: la apertura sigue siendo valiosa, pero es probable que veamos reglas más estrictas sobre modelos de gran capacidad. Esto cambiará cómo se construyen y despliegan soluciones.
Como alguien que escribe desde Maracaibo y ha visto cómo herramientas abiertas pueden empoderar proyectos locales, entiendo la tensión: ¿cómo mantener acceso e innovación sin abrir la puerta a daños serios? La respuesta de Anthropic apuesta por controles dirigidos y pruebas sistemáticas, más que por bloqueos amplios que favorezcan a quienes ya dominan el mercado.
Reflexión final
La nota de Anthropic es una invitación a no caer en soluciones simplistas. La prohibición total de pesos abiertos parece una respuesta intuitiva, pero pobremente dirigida. En cambio, medidas técnicas y de política pública —control de chips, freno a la distillation industrial y pruebas obligatorias— atacan las causas reales del riesgo.
No es un camino fácil, ni rápido, pero es práctico: proteger a la sociedad sin sacrificar por completo los beneficios del acceso. ¿No preferimos construir reglas que funcionen en el mundo real en vez de prohibiciones que solo cambian quién compite?