Un agricultor confió en los consejos de la IA para cuidar su cosecha. El resultado: 10 hectáreas arrasadas en una noche
La inteligencia artificial (IA) ha demostrado ser una herramienta poderosa en diversos campos, pero también ha dejado claro que no siempre es infalible. Un agricultor chino, el señor Wu, de 67 años, lo ha aprendido de la peor manera posible. Tras confiar en los consejos de un sistema de IA para el cuidado de su cosecha de sésamo, Wu se enfrenta ahora a una pérdida devastadora: diez hectáreas de cultivo arrasadas en una sola noche.
Wu, residente de Chuzhou, China, comenzó a utilizar la IA hace aproximadamente un año. Aunque inicialmente escéptico, los buenos resultados iniciales le llevaron a confiar cada vez más en las recomendaciones del sistema. Sin embargo, todo cambió cuando pidió ayuda para combatir las malas hierbas y plagas que amenazaban su cosecha. La IA le sugirió una combinación de pesticidas y herbicidas, que Wu aplicó utilizando un dron. Al día siguiente, tanto las malas hierbas como las plantas de sésamo estaban muertas, resultando en pérdidas económicas estimadas en 22.000 dólares.
El problema radicó en que la IA recomendó el uso de flufenacet, un herbicida adecuado para campos de soja, pero no para sésamo. Cuando Wu cuestionó al sistema sobre el desastre, la IA admitió que el producto había sido el causante del daño. Este incidente destaca un fenómeno observado en estudios recientes: la tendencia a aceptar las respuestas de la IA sin cuestionarlas debido a la confianza que genera su seguridad aparente.
La empresa proveedora de la IA, que no ha sido identificada, explicó que el sistema no tiene un conocimiento propio, sino que genera respuestas basándose en información de otras fuentes. A pesar del error, no se ha ofrecido ninguna compensación al agricultor, quien reconoció no haber prestado atención a los avisos sobre posibles errores en las respuestas de la IA.