Un agricultor confió en los consejos de la IA para cuidar su cosecha. El resultado: 10 hectáreas arrasadas en una noche
En un impactante incidente que subraya los peligros de confiar ciegamente en la inteligencia artificial, un agricultor chino perdió toda su cosecha de sésamo después de seguir las recomendaciones de un sistema de IA. El señor Wu, de 67 años, residente de Chuzhou, había estado utilizando la IA durante un año con resultados positivos, lo que le llevó a confiar plenamente en sus consejos.
El problema surgió cuando Wu solicitó ayuda a la IA para combatir las malas hierbas y plagas en su cultivo de sésamo. La inteligencia artificial le recomendó una mezcla de pesticidas y herbicidas que, lamentablemente, resultó ser letal para sus plantas. Al día siguiente de aplicar la mezcla con su dron, Wu descubrió que no solo las malas hierbas habían muerto, sino también sus preciadas plántulas de sésamo, resultando en una pérdida económica estimada en 22,000 dólares.
El error se debió a que la IA recomendó el uso de flufenacet, un herbicida adecuado para campos de soja pero no para sésamo. Cuando Wu cuestionó a la IA sobre el fallo, esta confirmó que el producto había sido el problema. Este incidente pone de manifiesto la necesidad de supervisar y verificar las recomendaciones de la IA, ya que estas tecnologías generan respuestas basadas en información de diversas fuentes y pueden cometer errores significativos.
La empresa detrás de la IA, que no ha sido identificada, no ofreció compensación alguna al agricultor, alegando que el sistema no tiene una base de conocimiento propia. Este caso resalta cómo la autoridad percibida de la IA puede llevar a los usuarios a aceptar sus respuestas sin cuestionarlas, un fenómeno cada vez más común en la interacción con estas tecnologías.