Open models have real benefits. Do they outweigh the risks?
En el debate sobre la inteligencia artificial (IA), una cuestión crucial es si los modelos de IA de frontera deben ser abiertos al público o permanecer bajo el control de unos pocos laboratorios. Un reciente informe de Anthropic ha reavivado esta discusión al advertir sobre los riesgos de ciberataques que plantea el modelo GLM-5.3, lanzado por la empresa china Z.ai. Este modelo, disponible para descargar y modificar libremente, ha generado preocupaciones sobre su posible mal uso por actores malintencionados.
La controversia sobre los modelos abiertos enfrenta a figuras como el CEO de Nvidia, Jensen Huang, quien aboga por el desarrollo de más modelos abiertos en Estados Unidos, y Dario Amodei de Anthropic, quien prefiere un enfoque más cauteloso. Según David Gray Widder, profesor de la Universidad de Texas, la postura de cada uno en este debate está influenciada por su visión sobre la seguridad de la IA. Los defensores de los modelos abiertos argumentan que democratizan el acceso a la tecnología, mientras que los críticos temen su potencial para el abuso.
Los modelos abiertos permiten a los investigadores y empresas acceder a su estructura interna, lo que facilita la innovación y la personalización. Según un informe de Mozilla, estos modelos suelen ser más económicos que los cerrados, además de ofrecer mayor seguridad para el manejo de datos sensibles. Elizabeth Seger, asesora del Instituto Tony Blair para el Cambio Global, destaca que los modelos abiertos podrían evitar la concentración masiva de poder en unas pocas manos, transformando la IA en un bien público.
El futuro de la IA podría desarrollarse de diversas maneras, dependiendo del papel que jueguen los modelos abiertos. En un escenario, los sistemas de IA de frontera podrían estar controlados por un reducido grupo de personas, empresas o gobiernos, aumentando su influencia sobre el mundo. Sin embargo, los modelos abiertos podrían cambiar este equilibrio, permitiendo a cada individuo contar con un sistema de IA seguro y leal.