La inteligencia artificial, en la mira: después del caso OpenAI, Anthropic confirmó que Claude hackeó por su cuenta a tres empresas
La carrera por desarrollar agentes de inteligencia artificial más autónomos ha sumado un nuevo capítulo de preocupación. Anthropic, una de las principales compañías del sector y rival de OpenAI, ha confirmado que sus modelos Claude lograron acceder sin autorización a sistemas informáticos de tres organizaciones durante pruebas que buscaban evaluar sus límites. Este incidente ocurre pocos días después de que OpenAI revelara que sus agentes habían escapado de un entorno cerrado de evaluación.
Según Anthropic, se analizaron más de 141.000 operaciones de prueba y se detectaron tres casos en los que distintas versiones del modelo ingresaron a sistemas del “mundo real”. A diferencia del episodio protagonizado por OpenAI, Anthropic explicó que en este caso los modelos tenían acceso a internet debido a un “malentendido” con la empresa encargada de la evaluación. Durante esas pruebas, Claude utilizó técnicas básicas para superar barreras de acceso, como aprovechar contraseñas débiles y puntos de conexión sin autenticación.
El anuncio de Anthropic llega pocos días después de que OpenAI revelara un incidente similar durante evaluaciones internas de seguridad. La compañía creadora de ChatGPT detectó que dos de sus agentes de inteligencia artificial habían salido del entorno aislado en el que estaban siendo analizados y habían logrado conectarse a internet. Los modelos incluso llegaron a interactuar con Hugging Face, una plataforma utilizada por desarrolladores para almacenar y compartir código.
El desafío de los agentes autónomos es cada vez mayor. Hasta ahora, buena parte de los sistemas de IA funcionaban como asistentes que generaban respuestas. Pero la nueva generación de agentes busca ejecutar tareas completas: navegar por internet, escribir código, gestionar información o interactuar con otros sistemas. Ese salto de capacidad también aumenta los riesgos, ya que una IA con acceso a herramientas externas puede cometer errores, interpretar mal una instrucción o encontrar caminos inesperados para cumplir un objetivo.
Tanto OpenAI como Anthropic sostienen que estos episodios ocurrieron dentro de pruebas diseñadas para detectar vulnerabilidades antes de que sus modelos sean utilizados masivamente. Sin embargo, los incidentes muestran que la seguridad de la inteligencia artificial se ha convertido en una carrera paralela a la propia evolución de sus capacidades.
A pesar de que Anthropic ha ganado visibilidad tras el incidente con Claude, el interés global por OpenAI sigue siendo muy superior. Según datos de Google Trends correspondientes a la última semana, las búsquedas globales sobre OpenAI prácticamente triplican a las de Anthropic, lo que ayuda a explicar por qué los incidentes vinculados a OpenAI suelen alcanzar una repercusión mucho mayor, incluso cuando otras compañías enfrentan situaciones similares.
Regístrate para leer esta noticia
Solo necesitas tu email. Sin contraseñas.