Lloyds Bank should publish the human cost of its AI savings | Letters
El reciente informe sobre Lloyds Bank y su estrategia de ahorro de £2 mil millones impulsada por IA plantea una inquietante cuestión: ¿quién asume el trabajo cuando la automatización falla? Según el Dr. Gleb Tsipursky, experto en comportamiento, los bancos suelen contabilizar los minutos ahorrados por los empleados que utilizan herramientas de inteligencia artificial. Sin embargo, también deberían considerar el tiempo que los colegas dedican a verificar hechos inventados, reparar mensajes de clientes, explicar aplicaciones rechazadas y escalar errores. Un sistema puede hacer que un equipo parezca más productivo mientras transfiere el riesgo y el esfuerzo a otros lugares.
Tsipursky sugiere que Lloyds debería publicar un cuadro de mando simple para cada flujo de trabajo de IA con consecuencias importantes. Este debería incluir el tiempo total ahorrado en el proceso, las tasas de error y retrabajo, las quejas de los clientes, las intervenciones humanas exitosas y los cambios en los roles de entrada. Además, debería identificar al ejecutivo con autoridad para pausar un sistema cuando las evidencias sean negativas.
Los gerentes de relaciones del banco y los clientes necesitan una vía clara para desafiar las recomendaciones automatizadas. El personal debe poder reportar salidas débiles sin ser etiquetado como resistente a la innovación. Aunque la IA puede acortar las decisiones hipotecarias y mejorar el asesoramiento, estos avances solo merecerán confianza cuando Lloyds mida todo el flujo de trabajo y demuestre que los ahorros de £2 mil millones no se convierten en costos ocultos para los trabajadores y clientes.