Y Combinator’s Garry Tan wants US open-weight AI labs to ‘distill’ frontier models, too
En medio de las crecientes tensiones sobre el uso de técnicas de destilación por parte de laboratorios de inteligencia artificial (IA) chinos, Garry Tan, CEO de Y Combinator, ha expresado su deseo de que los laboratorios estadounidenses adopten un enfoque similar. En una entrevista reciente con CNBC, Tan afirmó: «No haría nada», sugiriendo que podría existir un régimen de destilación americano.
Tan explicó a TechCrunch que su objetivo es que los laboratorios de IA estadounidenses más pequeños utilicen estas técnicas de entrenamiento en laboratorios de frontera, fortaleciendo así las opciones de peso abierto en EE.UU. La destilación, una práctica común y legítima, implica que un creador de modelos incite extensamente a otro modelo para aprender cómo funciona y razona.
Esta semana, Anthropic publicó un segundo informe acusando a laboratorios chinos de realizar «ataques de destilación ilícitos», ocultando sus identidades para destilar sin permiso y utilizando credenciales robadas. El CEO de Anthropic, Dario Amodei, ha instado a los reguladores estadounidenses a tomar medidas al respecto.
Sin embargo, Tan no está de acuerdo con esta postura. No aboga por el uso de credenciales robadas, sino que desea que los laboratorios estadounidenses tengan la libertad de acceder a la información de manera legítima. Argumenta que es una extralimitación que los laboratorios de IA controlen lo que sus clientes pueden hacer con la información compartida por sus modelos.
Tan también destaca que los laboratorios de IA propietarios no pidieron permiso cuando recopilaron grandes cantidades de conocimiento humano para entrenar sus modelos, incluyendo material protegido por derechos de autor. «Controlar lo que los usuarios y clientes hacen con las llamadas API a modelos de peso cerrado se siente restrictivo, y el gobierno puede jugar un papel para normalizar el acceso a la inteligencia entrenada con datos de acceso público como un bien público», comentó Tan a TechCrunch.
En su opinión, el verdadero escenario catastrófico para la IA sería que todo el poder de los laboratorios de frontera terminara en manos de un único proveedor poderoso y propietario. «El escenario de pesadilla para la IA es que haya solo una empresa», dijo. «Tiene el mejor acceso al capital, los mejores investigadores de IA y se queda con todo, convirtiéndose en una empresa monolítica. Y eso sería malo.»