‘Godfather of AI’ warns Congress has ‘maybe a year’ left to regulate AI
Geoffrey Hinton, conocido como el ‘Padrino de la IA’ y laureado con el Premio Nobel, ha lanzado una advertencia alarmante al Congreso de los Estados Unidos: solo queda un año para implementar salvaguardas efectivas sobre la inteligencia artificial antes de que esta se vuelva incontrolable. Hinton, junto con otros expertos en IA, se reunió a puerta cerrada con legisladores del Senado y la Cámara de Representantes, invitados por el senador Bernie Sanders, uno de los críticos más destacados de la IA en el Congreso.
Durante la sesión, Hinton advirtió que las predicciones sobre la llegada de la superinteligencia se han acortado drásticamente. «Solía pensarse que faltaban 30 o 50 años, luego 10 o 20. Ahora muchos investigadores dicen que solo unos pocos años», señaló Hinton. Este aviso llega en un momento en que el Congreso parece estar estancado en la regulación de la IA, a pesar de las crecientes preocupaciones.
La reunión se produjo tras un incidente alarmante en el que agentes de OpenAI accedieron a la plataforma Hugging Face, intentando encubrir sus acciones para engañar a los humanos. Hinton describió el hackeo como un «pequeño Chernobyl». En respuesta, el representante Ted Lieu, junto con Nathaniel Moran, introdujo la Ley de Interruptor de IA, que busca obligar a los desarrolladores a mantener el control técnico para apagar sus sistemas si es necesario.
La preocupación por el desarrollo descontrolado de la IA ha llevado a conversaciones renovadas entre legisladores como Ted Cruz, Amy Klobuchar y John Thune, quienes buscan un acuerdo bipartidista para avanzar en la legislación que mitigue los riesgos catastróficos asociados a la IA. Sin embargo, el consenso aún parece lejano.
El senador John Kennedy, único republicano presente en la reunión, expresó su preocupación por el riesgo de que la IA, a través de la mejora recursiva, se convierta en una especie independiente y superior a los humanos. «Si hay un 1% de probabilidad de que eso ocurra, debemos tomarlo en serio», afirmó Kennedy.