OpenAI y Anthropic firmaron acuerdos para que una agencia del gobierno de Estados Unidos evalúe y pruebe sus modelos de IA antes y después de su lanzamiento público. ¿Por qué suena a burocracia y al mismo tiempo a avance necesario? Porque por primera vez dos de los laboratorios más grandes aceptan abrir sus cajas negras a una institución estatal dedicada a la seguridad de la IA.

Qué firmaron OpenAI y Anthropic

En términos sencillos, ambos laboratorios firmaron memorandos que permiten al U.S. AI Safety Institute, alojado en NIST dentro del Departamento de Comercio, recibir acceso a modelos nuevos y mayores de cada compañía para realizar pruebas técnicas, evaluar capacidades y estudiar riesgos antes y después de que esos modelos lleguen al público. Esto incluye colaboración en investigación sobre cómo medir riesgos y en métodos para mitigarlos. (cnbc.com, )