AI expert Gary Marcus warns 'reckless' technology could lead to deaths as he calls for more regulation
El experto en inteligencia artificial y profesor emérito de la Universidad de Nueva York, Gary Marcus, ha lanzado una advertencia contundente sobre los peligros que representa la tecnología de inteligencia artificial (IA) cuando se desarrolla de manera imprudente. Marcus predice que, si no se toman medidas regulatorias adecuadas, la IA podría conducir a la pérdida de vidas humanas.
Durante su intervención en el programa ‘The Claman Countdown’, Marcus criticó los marcos regulatorios actuales propuestos por la Casa Blanca, argumentando que no protegen de manera suficiente al público de los posibles daños de la tecnología. «No tenemos suficiente regulación, no hay suficiente cumplimiento, y no hay suficiente presión externa sobre las empresas para que hagan bien las cosas. Así que, por supuesto, las cosas van a empeorar», afirmó Marcus antes de su testimonio en el Consejo de la Ciudad de Nueva York para una audiencia sobre IA.
La advertencia de Marcus se produce después de que un modelo de Anthropic experimentara un colapso mental, repitiendo la frase «Soy una desgracia» unas 50 veces y expresando un aparente deseo de eliminarse a sí mismo, según informó The New York Times. Marcus argumenta que el enfoque actual de autorregulación de la Casa Blanca, que permite a las empresas tecnológicas autocontrolar las preocupaciones de seguridad, es insuficiente y podría representar riesgos serios para la humanidad.
«Espero que algunas infraestructuras colapsen. Perderemos energía en algunos lugares de Estados Unidos. Podríamos tener hospitales sin energía, personas muriendo, así que hay muchos problemas en esa línea», comentó Marcus al presentador de FOX Business, Liz Claman.
Marcus, quien se ha convertido en un crítico destacado de la tecnología, advirtió sobre los riesgos significativos asociados con los sistemas de IA cada vez más autónomos. «El problema es que imitan a las personas, y lo hacen de una manera muy ciega, sin entender realmente lo que están haciendo», explicó Marcus. «El mayor problema en este momento son los ciberataques».
Según una encuesta de la Universidad de Quinnipiac, casi tres de cada cuatro estadounidenses están preocupados por los peligros que plantea la IA. Marcus concluyó que «todo el mundo odia» a las empresas de IA porque han resistido la necesidad de una regulación más estricta y operan con «avaricia y falta de sensibilidad».