OpenAI seeks to one-up Anthropic with new customer privacy protections
A medida que los modelos de inteligencia artificial se vuelven más potentes, también crece el potencial de uso indebido de estos modelos, lo que ha generado una creciente demanda de medidas de seguridad que puedan prevenir tales abusos. Las empresas de inteligencia artificial deben ahora encontrar un delicado equilibrio entre respetar la privacidad de sus clientes empresariales y vigilar el uso para detectar posibles problemas.
En un intento por superar a su rival Anthropic, OpenAI ha anunciado un enfoque de seguridad centrado en la privacidad para monitorear el uso indebido. La empresa está presentando un nuevo servicio a clientes seleccionados que llama Private Safety Processing. Este es un sistema automatizado que observa posibles abusos mientras simultáneamente no retiene los datos del cliente.
Este sistema contrasta claramente con la política de retención de datos recientemente anunciada por Anthropic. La política, que ha molestado a algunos clientes, permite al laboratorio de IA conservar los datos de usuario (todas sus sesiones y las conversaciones dentro de ellas) por un período de 30 días cuando se trata de «modelos cubiertos». Estos modelos incluyen todos los modelos de clase Mythos y «futuros modelos con capacidades similares», según la empresa.
Esta política, anunciada en julio, fue diseñada con fines de seguridad, permitiendo al laboratorio examinar y analizar posibles impropiedades. Sin embargo, ha preocupado profundamente a algunas empresas que manejan grandes cantidades de datos sensibles y no quieren que sean almacenados (o inspeccionados) por el laboratorio de IA.
OpenAI, al igual que la mayoría de las otras empresas de IA, ya ofrece a los clientes un nivel relativo de privacidad al adherirse a una política conocida como Zero Data Retention (ZDR). ZDR utiliza agentes dentro de la API de OpenAI para monitorear el abuso en cada sesión. De esta manera, los datos del cliente no son retenidos por la empresa, pero las empresas aún pueden escanear actividades indebidas sin necesidad de intervención humana. Cabe destacar que Anthropic también sigue en gran medida ZDR, excepto cuando se trata de «modelos cubiertos», como Fable.
OpenAI afirma que Private Safety Processing es una nueva tecnología que amplía el alcance de ZDR. Lo describe como una forma de monitoreo de seguridad a largo plazo que evalúa las entradas y salidas de múltiples conversaciones, no solo una. Nuevamente, el monitoreo es realizado por un agente que, si se activa, captura interacciones y las analiza a través de sesiones en busca de signos de uso indebido.
La nueva tecnología ayuda a OpenAI a detectar el uso malicioso de la IA que ocurre en múltiples sesiones, explicó un portavoz a TechCrunch. Un actor malintencionado, hipotéticamente alguien que intenta crear malware para un ciberataque, podría distribuir sus solicitudes para evitar la detección. Private Safety Processing puede analizar esas múltiples conversaciones en busca de signos de abuso sin revisión humana de las conversaciones del usuario.
En caso de que el sistema se active, puede enviar una «señal definida de manera estrecha» a OpenAI que advierte sobre un tipo específico de actividad, según la empresa. Basado en esa señal, OpenAI puede decidir si «es necesario aplicar medidas», afirma. Si es así, OpenAI se pondrá en contacto con el cliente para obtener más contexto o para trabajar con ellos en el tema, y un cliente puede optar por compartir datos con OpenAI a su discreción.
Por el contrario, Anthropic señala que la revisión humana de los datos del cliente puede ocurrir, pero solo «a través de un camino de acceso controlado» que involucra «un pequeño conjunto de revisores aprobados». Cada una de esas sesiones de revisión se «registra en un log inalterable que los revisores no pueden suprimir o modificar», dice la empresa.
La competencia corporativa entre OpenAI y Anthropic es tensa en este momento, con ambas empresas buscando cualquier oportunidad para obtener ventaja sobre la otra. Un informe reciente mostró que el crecimiento de OpenAI en el segundo trimestre fue más lento que el de Anthropic. La tasa de ingresos anualizada de Anthropic ahora se informa en $65 mil millones. Los inversores de Anthropic han dicho que podría salir a bolsa con una valoración de $2 billones, mientras que OpenAI también está trabajando en su salida a bolsa.