La inteligencia artificial ya forma parte de la forma en que los gobiernos enfrentan ciberataques, protegen infraestructuras críticas y detectan amenazas. Pero cuando estas herramientas entran en áreas de seguridad nacional, surge una pregunta inevitable: ¿quién supervisa que se utilicen correctamente?
OpenAI anunció una iniciativa para ayudar a los organismos democráticos de supervisión a entender y vigilar mejor el uso gubernamental de la IA en asuntos de seguridad nacional.
Por qué la supervisión necesita actualizarse
La IA puede analizar información y actuar a una velocidad que supera ampliamente los procesos manuales. Esa capacidad puede ser útil durante una crisis, pero también puede amplificar errores basados en datos incompletos, objetivos mal configurados o supuestos equivocados.
En seguridad nacional, detectar un problema tarde puede tener consecuencias importantes. Además, muchas decisiones están rodeadas de secreto, información clasificada y riesgos para la privacidad. Por eso, la supervisión no puede depender únicamente de equipos pequeños que revisan documentos con métodos diseñados para otra época.
Cuanto más capaces son los sistemas de IA, más importante se vuelve contar con instituciones capaces de examinarlos.
OpenAI sostiene que la responsabilidad de supervisar al gobierno no le corresponde a la empresa. Esa tarea pertenece a los funcionarios electos y a las instituciones creadas legalmente para ejercerla. Su propuesta consiste en ofrecer tecnología, capacitación y apoyo técnico para que esos organismos cumplan mejor sus mandatos.
Tres principios para vigilar la IA gubernamental
La iniciativa se basa en tres ideas principales:
-
La IA debe reforzar el criterio humano, no reemplazarlo. Las decisiones sobre legalidad, proporcionalidad y cumplimiento de las normas deben permanecer en manos de las autoridades y organismos de supervisión correspondientes.
-
El uso de la IA debe ser rastreable. Los revisores autorizados deberían poder entender qué información recibió un sistema, qué produjo y cómo influyó en una decisión, sin poner en riesgo datos clasificados o sensibles.
-
La IA también debe ayudar a supervisar el poder. Si los gobiernos utilizan herramientas capaces de operar a gran velocidad, los organismos de control necesitarán recursos tecnológicos que les permitan revisar esas actividades de manera eficaz.
La idea es sencilla, aunque su aplicación no lo sea: no basta con pedir que una decisión sea supervisada. También hay que proporcionar las herramientas para hacerlo.
Qué hará OpenAI durante el próximo año
OpenAI planea trabajar con funcionarios autorizados para identificar casos concretos en los que la IA pueda hacer más eficiente la supervisión. También anunció un aporte de 5 millones de dólares en capacitación, asistencia técnica y créditos de OpenAI para organismos democráticos de control.
Además, la empresa colaborará en proyectos piloto para revisar los registros asociados con decisiones gubernamentales asistidas por IA. Esos registros podrían incluir las entradas recibidas por el sistema, sus resultados y las herramientas utilizadas durante el proceso.
Cuando sea posible, las soluciones serán interoperables o independientes de un modelo específico. Esto permitiría que los organismos no tengan que limitar su supervisión a una sola tecnología o proveedor.
Un punto importante es quién conservará el control de la información. Según OpenAI, las instituciones participantes mantendrán el control sobre las evidencias, los resultados y los hallazgos. El acceso quedará restringido a funcionarios gubernamentales autorizados.
La empresa también planea consultar a organizaciones de la sociedad civil y expertos técnicos. Sus aportes podrían ayudar a definir cómo deben diseñarse estas herramientas y qué responsabilidades deben asumir las compañías que desarrollan IA.
Supervisión para una tecnología que no es infalible
OpenAI relaciona esta propuesta con sus propios procesos internos. Bajo su Preparedness Framework, afirma que sus modelos avanzados pasan por revisiones antes del lanzamiento para evaluar capacidades y determinar si las medidas de seguridad son suficientes. Después del despliegue, la compañía realiza monitoreo continuo y revisiones de incidentes.
Sin embargo, una revisión interna no sustituye el control democrático externo. Una empresa puede evaluar sus sistemas, pero las decisiones sobre el uso del poder público corresponden a instituciones sujetas a leyes, controles y responsabilidades ante la ciudadanía.
La iniciativa plantea una posibilidad relevante: que la IA no solo concentre capacidades en gobiernos y empresas, sino que también ayude a quienes deben examinarlas. ¿Puede una tecnología diseñada para acelerar decisiones contribuir igualmente a hacerlas más transparentes? La respuesta dependerá de cómo se construyan los registros, quién pueda revisarlos y qué autoridad tengan los organismos de control para actuar.
El éxito de este programa no debería medirse únicamente por la cantidad de herramientas entregadas o instituciones capacitadas. El indicador más importante será si los revisores autorizados pueden cumplir mejor sus obligaciones y si la ciudadanía tiene más razones para confiar en que la IA gubernamental se utiliza según las reglas establecidas.
Fuente original
https://openai.com/index/strengthening-democratic-oversight-in-national-security