En un mundo donde la inteligencia artificial (IA) está cada vez más presente en nuestras vidas, surge una pregunta crucial: ¿quién se atreve a llevarle la contraria al algoritmo? En un reciente artículo de opinión, Javier Mateo aborda este tema desde una perspectiva que invita a la reflexión.
La IA ya está integrándose en el funcionamiento de las administraciones públicas, ayudando a analizar documentación, resumir expedientes y elaborar procedimientos. Sin embargo, Mateo plantea una inquietud: ¿qué ocurre cuando un sistema automatizado toma una decisión que afecta a los ciudadanos, como la concesión o denegación de ayudas? ¿Está el funcionario capacitado para cuestionar esa decisión?
El debate no es menor, especialmente cuando incluso los desarrolladores de estas tecnologías sugieren la necesidad de reducir la velocidad de su implementación para garantizar que existan mecanismos adecuados de evaluación y supervisión. La preocupación es que la supervisión humana se convierta en un mero trámite formal, sin verdadera capacidad de intervención.
Para enfrentar este desafío, será necesario formar a miles de empleados públicos no solo en el uso de estas herramientas, sino también en la capacidad de cuestionarlas. Los ciudadanos, por su parte, deberían tener el derecho a conocer si una IA ha influido en una decisión que les afecta y tener acceso a una revisión humana si es necesario.
En este contexto, Valencia podría liderar el camino hacia un uso responsable de la IA, estableciendo reglas claras y comprensibles para todos. La clave está en garantizar el derecho y la capacidad de llevarle la contraria al algoritmo, no como una excepción, sino como parte integral de la responsabilidad profesional.
Fuente: https://valenciaplaza.com/valenciaplaza/opinion/quien-le-lleva-la-contraria-al-algoritmo