Google Earth risked ruin with retracted AI tool for making fake satellite pics
Google Earth lanzó brevemente una herramienta de inteligencia artificial que permitía a los usuarios crear versiones modificadas de imágenes satelitales, antes de retractarse rápidamente tras la preocupación por el potencial de desinformación. La función, que utilizaba el generador de imágenes Nano Banana 2, facilitaba la creación de imágenes alteradas de ubicaciones reales, algo que Google inicialmente promocionó como una innovación.
La herramienta fue criticada por investigadores que utilizan Google Earth para verificar imágenes y videos en un momento en que la desinformación generada por IA es cada vez más común en línea. Eliot Higgins, fundador de Bellingcat, comentó irónicamente sobre la nueva función, mostrando una imagen modificada que representaba una estatua gigante del presidente Donald Trump sobre la Casa Blanca.
En menos de un día, Google anunció en la plataforma X que retiraba la función. Antes de su eliminación, Google había destacado su potencial para permitir a los usuarios de Google Earth representar proyectos inmobiliarios completados o transformar las ruinas de Pompeya en una vista hiperrealista de la ciudad en el año 78 d.C. Sin embargo, los investigadores independientes se centraron en el potencial de uso indebido.
Henk van Ess, un investigador independiente, detalló sus preocupaciones en un blog, mostrando cómo la herramienta podría usarse para crear escenarios falsos, como plantar una planta nuclear en Irán o un accidente fatal en Ámsterdam. Van Ess también señaló un caso previo de desinformación que utilizó una foto satelital de Google Earth para falsificar un ataque de dron iraní en una base militar estadounidense.
Google respondió inicialmente destacando su sistema SynthID, que incrusta marcas de agua digitales en las imágenes generadas por sus herramientas de IA. Sin embargo, la efectividad de SynthID fue cuestionada, ya que su capacidad para verificar imágenes es limitada y no pudo proporcionar verificación cuando se tomaron fotos de imágenes alteradas con una cámara de smartphone.
La introducción de esta herramienta de IA en Google Earth podría haber socavado la confianza pública en la plataforma como una fuente confiable de imágenes auténticas del mundo real, según van Ess. También podría haber proporcionado una excusa para que funcionarios gubernamentales o cualquier persona nieguen fotos satelitales genuinas alegando que fueron modificadas o generadas por herramientas de IA.
Regístrate para leer esta noticia
Solo necesitas tu email. Sin contraseñas.