Meta ordered to remove UK deepfakes as oversight board criticises ‘inadequate’ safeguards
Meta, la compañía detrás de Facebook, ha sido ordenada por su «tribunal supremo» a retirar videos deepfake de un político del Reino Unido y de una joven musulmana de su plataforma, y a intensificar sus esfuerzos para combatir las imágenes falsas generadas por inteligencia artificial. El consejo de supervisión de Meta criticó las salvaguardias de la empresa como «consistentemente y fundamentalmente inadecuadas» para abordar el rápido auge de los deepfakes de IA.
Un video falso mostraba a un concejal del partido Laborista en Escocia haciendo comentarios incendiarios sobre refugiados, lo que no debería haber permanecido en Facebook, según el consejo. También se ordenó la eliminación de un video generado por IA de una voluntaria musulmana, que la representaba ofreciendo consejos de salud mientras realizaba ejercicios absurdos o comía comida chatarra.
Pamela San Martin, copresidenta del consejo de supervisión, señaló que «desde políticos hasta ciudadanos privados, los deepfakes generados por IA se utilizan cada vez más para acosar y silenciar a las mujeres que participan en el discurso público». Estos casos demuestran un patrón preocupante en el que las mujeres que se expresan públicamente son desproporcionadamente objeto de acoso y desinformación. Meta y otras plataformas de redes sociales necesitan políticas más sólidas para abordar la proliferación de deepfakes.
El consejo recomendó nueve cambios en las políticas de Meta, incluyendo asegurar que los algoritmos degraden el contenido etiquetado como «de alto riesgo», haciendo que estas publicaciones sean menos probables de aparecer en los feeds de los usuarios. También sugirió que Meta dificulte el acceso a contenido generado por IA introduciendo una pantalla de advertencia que requiera un clic antes de visualizarlo.
En un fallo separado, el consejo también ordenó a Meta retirar de Facebook un video generado por IA que se burlaba de una joven musulmana en Europa que participaba en una campaña para mejorar la educación sobre salud menstrual y reducir el estigma en torno a las condiciones de salud para mujeres y niñas de minorías étnicas. Los videos manipulados por IA que se burlaban de la mujer tuvieron decenas de millones de visitas en línea, incluyendo en plataformas de Meta.