Arcee, a US open source AI lab, says Chinese models are not inherently dangerous
En un contexto donde los modelos de inteligencia artificial (IA) de código abierto chinos están ganando popularidad y capacidades, el debate sobre cómo manejarlos ha alcanzado un punto álgido. La administración Trump ha considerado la posibilidad de prohibirlos, aunque aún no ha tomado medidas al respecto. Mientras tanto, empresas como OpenAI y Anthropic manifiestan su creciente preocupación por estos modelos.
Modelos como Kimi K3 de Moonshot AI o Qwen de Alibaba ofrecen inferencias a una fracción del costo de los modelos de código cerrado de grandes laboratorios estadounidenses. Sin embargo, la pregunta persiste: ¿deberían las empresas que utilizan estos modelos en sus propios centros de datos temer que puedan ser un vector para hackers chinos?
Lucas Atkins, CTO de Arcee, un laboratorio de IA de código abierto estadounidense, sostiene que los modelos chinos no son más peligrosos que cualquier otro software de código abierto. «No hay forma de que un Arcee o un Alibaba puedan crear un modelo, hacer que alguien lo ejecute en su propio entorno y que nosotros tengamos acceso a él», explicó Atkins.
A pesar de que la mayoría de estos modelos son «open weight» y no realmente de código abierto completo, el código fuente, si se descarga de sitios como Hugging Face, es en gran parte visible y revisable. Las organizaciones grandes deben someter cualquier núcleo de modelo a pruebas de seguridad e inspección, optimizándolos para sus usos específicos y examinando áreas como sesgo, toxicidad y sensibilidad a ciertos temas.
Atkins argumenta que en lugar de centrarse en prohibir los modelos chinos, la conversación debería dirigirse hacia cómo fomentar un buen ecosistema abierto en EE. UU. Arcee también se beneficia de los modelos chinos, ya que al ser abiertos, la startup puede aprender de ellos y construir sobre sus avances.
«La forma de competir con los modelos chinos es lanzar un modelo que sea mejor», concluye Atkins.
Regístrate para leer esta noticia
Solo necesitas tu email. Sin contraseñas.