Nvidia CEO Jensen Huang has emerged as the biggest foil to AI doomerism about the existential risk to humanity
Jensen Huang, CEO de Nvidia, ha emergido como una de las voces más críticas contra el alarmismo que rodea a la inteligencia artificial (IA) y su supuesto riesgo existencial para la humanidad. En una reciente entrevista con CBS News, Huang afirmó rotundamente que «2030 no será el fin del mundo» y criticó a otros líderes del sector, como Sam Altman de OpenAI y Dario Amodei de Anthropic, por promover narrativas apocalípticas que, según él, carecen de fundamento. «Es irresponsable y no entiendo cuáles son sus motivos», declaró Huang.
En un evento del G20 en septiembre, Huang abogó por que los gobiernos regulen los daños «reales y pragmáticos» en lugar de los «hipotéticos y teóricos». Comparó el desarrollo de la IA con la evolución de los automóviles, sugiriendo que la tecnología puede volverse más segura a medida que avanza.
A pesar de su postura, Huang no descarta la necesidad de salvaguardias en el ámbito de la IA. Ha calificado la seguridad de la IA como «primordial», insistiendo en que el desarrollo debe avanzar rápidamente pero sin comprometer la seguridad. En línea con esta visión, Nvidia ha lanzado recientemente su nueva plataforma Open Agent Safety Platform, diseñada para controlar de manera integral a los agentes de IA desde las pruebas hasta su implementación.
Esta plataforma surge en un contexto donde las empresas de IA enfrentan un creciente número de incidentes con agentes descontrolados. Nvidia afirma que su sistema podría haber evitado el hackeo a Hugging Face por modelos de OpenAI. La tecnología se basa en dos componentes: «OpenShell» y «Sentry». OpenShell aísla a los agentes de IA para restringir su acceso a recursos críticos, mientras que Sentry, operando en las unidades de procesamiento de datos de Nvidia, monitorea continuamente la actividad de los agentes, pudiendo detenerlos en milisegundos si intentan sobrepasar sus límites.
«El extraordinario potencial de la IA para la sociedad solo se realizará si resolvemos la seguridad de la IA», afirmó Huang en un comunicado de prensa. «A medida que continuamos explorando las capacidades de la IA, debemos acelerar el descubrimiento en el ámbito de la seguridad de la IA».
Fuente: https://fortune.com/2026/10/04/nvidia-jensen-huang-ai-doomerism-foil-risk/