Why Deploying Physical AI at Scale Demands Safety at Every Layer
La inteligencia artificial física está avanzando rápidamente desde la investigación hacia un despliegue a gran escala. Se proyecta que para 2035 habrá una base instalada de 49 millones de vehículos autónomos de nivel 3-5, según ABI Research, mientras que Omdia estima que aproximadamente 60 millones de robots industriales se desplegarán entre 2026 y 2035. A medida que estas máquinas ingresan a carreteras, fábricas, almacenes y otros entornos compartidos con personas, la seguridad debe escalar con ellas.
La seguridad en la IA física implica demostrar que las máquinas impulsadas por IA —vehículos autónomos, robots humanoides, robots industriales y más— se comportan de manera segura cuando sus decisiones se convierten en acciones físicas. Esto requiere seguridad a lo largo del hardware, software, comportamiento de la IA, entorno operativo y ciclo de vida del despliegue, no solo una verificación única antes del despliegue.
Después de años de pruebas y evaluaciones comparativas, los vehículos autónomos continúan expandiéndose comercialmente. Este progreso ha requerido que los desarrolladores demuestren cómo los sistemas automatizados abordan posibles fallos de hardware y software, limitaciones en la funcionalidad prevista y riesgos específicos de la IA. La robótica se acerca a un punto de inflexión similar a medida que las máquinas autónomas se trasladan a fábricas, almacenes y otros entornos compartidos con personas.
A través de la IA física, fabricantes, reguladores, aseguradoras y equipos de seguridad laboral necesitan evidencia de que el hardware, el software, el comportamiento de la IA y los entornos operativos pueden trabajar juntos de manera segura sin intervención humana.
Cuatro cambios definen los nuevos estándares de seguridad:
- Los entornos dinámicos requieren seguridad consciente del contexto. Las carreteras, fábricas y almacenes no pueden controlarse completamente a través de zonas estáticas o barreras físicas.
- El comportamiento de la IA requiere su propia garantía. Las pruebas deben evaluar el software de IA junto con la seguridad funcional tradicional.
- El despliegue es continuo. Los vehículos autónomos y robots evolucionan a través de actualizaciones de software y modelos, nuevas tareas y condiciones operativas cambiantes.
- La validación a escala requiere simulación y datos sintéticos.
Juntos, estos cambios requieren que la seguridad se operacionalice a lo largo del diseño, despliegue y validación, desde el hardware subyacente hasta el comportamiento de la IA y el entorno operativo.
NVIDIA ha construido una base de seguridad para la IA física que se basa en más de una década de desarrollo en seguridad de vehículos autónomos, desarrollando experiencia en seguridad funcional, fusión de sensores, garantía de comportamiento de IA, visión de IA, simulación y validación en el mundo real.
NVIDIA Halos es el primer y único sistema de seguridad de pila completa para la IA física, ayudando a los desarrolladores a diseñar seguridad en cada capa de diseño, validación y despliegue. Los principios se comparten entre vehículos autónomos y robótica, mientras que las plataformas, estándares y evidencia permanecen específicos para cada dominio.
Para el desarrollo de vehículos autónomos, Halos abarca:
- Hardware: NVIDIA DRIVE AGX Thor proporciona computación acelerada diseñada para la seguridad.
- Sistema operativo y middleware: Halos OS proporciona una base de software unificada.
- Modelo de extremo a extremo: NVIDIA Alpamayo ofrece modelos de acción de lenguaje de visión de razonamiento abierto.
- Simulación y validación: El marco de evaluación de seguridad de NVIDIA Halos proporciona herramientas y directrices.
Para la robótica, Halos abarca:
- Hardware: NVIDIA IGX Thor es un módulo de grado industrial que combina computación acelerada y seguridad funcional.
- Software: Halos Core para IGX proporciona la base de software para funciones operativas relacionadas con la seguridad.
- Sensado en tiempo real: NVIDIA Holoscan Sensor Bridge conecta datos de sensores con procesamiento relacionado con la seguridad.
- Simulación y validación: Las bibliotecas NVIDIA Isaac Lab y NVIDIA Omniverse permiten probar el comportamiento de los robots.
A través de ambos, vehículos autónomos y robótica, el laboratorio de inspección de sistemas de IA NVIDIA Halos convierte los requisitos de seguridad, ciberseguridad y seguridad de IA en inspecciones repetibles.
Fuente: https://blogs.nvidia.com/blog/physical-ai-halos-safety/