OpenAI anunció una nueva forma de proteger los datos de clientes empresariales que utilizan sus modelos más avanzados. La propuesta busca mantener el compromiso de Zero Data Retention, o retención cero de datos, mientras incorpora controles de seguridad capaces de detectar riesgos que solo aparecen después de varias interacciones.
Qué significa Zero Data Retention
Con Zero Data Retention (ZDR), los clientes elegibles de la API reciben una promesa clara: OpenAI no conserva sus mensajes ni las respuestas del modelo una vez procesada la solicitud. Además, el contenido no queda disponible para que el personal de OpenAI lo revise.
Los datos de clientes empresariales tampoco se utilizan para entrenar los modelos, a menos que la organización lo autorice de forma explícita. Para compañías que manejan información financiera, médica, legal o estratégica, esta diferencia puede ser decisiva.
¿El reto? La seguridad de una interacción aislada no siempre cuenta toda la historia.
Private Safety Processing analiza el contexto sin revelar el contenido
OpenAI está probando Private Safety Processing, un sistema diseñado para identificar patrones de riesgo entre varias interacciones relacionadas. La herramienta busca detectar señales que podrían pasar inadvertidas si cada solicitud se analiza por separado.
Por ejemplo, una persona podría intentar superar las barreras de seguridad mediante consultas repetidas, coordinar acciones entre varias cuentas o presentar una actividad peligrosa como una investigación rutinaria. También pueden aparecer problemas cuando un agente de IA continúa ejecutando una tarea después de que el usuario le ordenó detenerse.
Los sistemas actuales compatibles con ZDR evalúan cada interacción individualmente. La nueva propuesta amplía ese análisis a un conjunto de interacciones, pero sin dar al personal de OpenAI acceso al contenido original.
La idea central es sencilla: mejorar la seguridad sin convertir la privacidad del cliente en el precio de entrada.
Cómo se protegen los datos
En las implementaciones ZDR, el contenido del cliente permanece en una infraestructura que la propia organización controla. OpenAI también está desarrollando una alternativa para almacenar la información en su propia infraestructura, pero cifrada con claves administradas por el cliente.
En ese segundo escenario, OpenAI no tendría una copia de las claves. Por tanto, sus empleados no podrían acceder al contenido subyacente, incluso si los sistemas automatizados detectaran una posible actividad de riesgo.
Cuando se identifica un problema, OpenAI recibiría únicamente una señal limitada sobre el tipo de actividad involucrada. Esa señal podría utilizarse para decidir si hace falta aplicar alguna medida, pero no incluiría los mensajes ni las respuestas que originaron la alerta.
Los clientes podrían revisar las alertas y las decisiones de cumplimiento desde sus propios sistemas. Si consideran que una actividad legítima fue marcada por error, desean presentar una apelación o necesitan colaborar en una investigación sobre abuso confirmado, podrían compartir voluntariamente la información relevante.
Una respuesta a las exigencias de las empresas
Algunos despliegues recientes de modelos avanzados han requerido que los clientes permitan a sus proveedores conservar contenido sensible para supervisar la seguridad. Para muchas organizaciones, esa condición entra en conflicto con sus obligaciones regulatorias y con los compromisos asumidos ante sus propios usuarios.
La propuesta de OpenAI intenta resolver esa tensión. Las empresas podrían conservar mayor control sobre sus datos y, al mismo tiempo, permitir que sistemas automatizados busquen señales de uso indebido en tareas largas y complejas.
Esto resulta especialmente importante a medida que los modelos dejan de limitarse a responder preguntas y empiezan a operar como agentes. Un agente puede planificar, utilizar herramientas y ejecutar acciones durante más tiempo. En ese contexto, una decisión aparentemente normal puede adquirir otro significado cuando se observa junto con todo lo que ocurrió antes.
La tecnología todavía está en pruebas
Private Safety Processing se encuentra en fase de prueba con clientes iniciales. OpenAI planea comenzar su despliegue en septiembre y publicar un documento técnico con más detalles sobre su funcionamiento.
La compañía afirma que está trabajando con organizaciones de distintos sectores, regiones y tamaños para definir los aspectos técnicos y operativos del sistema. Entre los usuarios empresariales mencionados se encuentra Glean, que considera que el compromiso de no entrenar modelos con datos de clientes y ZDR son condiciones importantes para adoptar la IA.
Como siempre, hay una diferencia entre una promesa de privacidad y su implementación real. Las empresas deberán revisar qué datos se almacenan, quién controla las claves, qué señales se generan y cómo pueden apelar una decisión automatizada antes de incorporar esta clase de sistemas a procesos críticos.
Aun así, el anuncio apunta a una dirección relevante: la seguridad de la IA no tiene por qué depender exclusivamente de que el proveedor pueda leer los datos de sus clientes. Si este enfoque funciona como promete, las organizaciones podrían obtener controles más avanzados sin renunciar al dominio sobre su información.
Fuente original
https://openai.com/index/our-commitment-to-zero-data-retention