Meta rolls out new AI tools to detect ads that secretly lead to child sexual abuse material
Meta ha anunciado la implementación de nuevas herramientas de inteligencia artificial diseñadas para detectar anuncios y cuentas que podrían estar dirigiendo a usuarios hacia material ilegal de abuso infantil. En la primera mitad de 2026, la compañía tomó medidas contra 33.2 millones de piezas de contenido de explotación infantil en Facebook e Instagram, de las cuales más del 97% fueron detectadas por sus sistemas antes de ser reportadas por los usuarios.
En India, Meta actuó sobre 5.3 millones de piezas de contenido similar, con una tasa de detección del 98% antes de ser reportadas. Las nuevas herramientas de IA están enfocadas en identificar «señalización», es decir, anuncios que parecen normales pero que podrían estar llevando a los usuarios a contenido ilegal fuera de las plataformas de Meta. Este es un método que los actores malintencionados han comenzado a utilizar para evadir la detección.
Meta está ahora examinando no solo el contenido de los anuncios, sino también hacia dónde dirigen a los usuarios. Esto le permite bloquear sitios web o destinos que infringen sus normas y tomar medidas contra las cuentas responsables. Además, la compañía está utilizando escaneos impulsados por IA adicionales para detectar contenido de explotación infantil que los sistemas anteriores podrían haber pasado por alto.
Otra herramienta nueva es un «agente de IA de equipo rojo» que prueba las medidas de seguridad de Meta, buscando debilidades que los actores malintencionados podrían explotar. Esto podría ayudar a identificar nuevos métodos de abuso antes de que se vuelvan más comunes. Asimismo, Meta está mejorando sus sistemas para identificar a personas que regresan a sus plataformas con nuevas cuentas después de que sus cuentas previas hayan sido eliminadas.
Estas medidas llegan en un momento en que Meta enfrenta presión por la seguridad de los niños en sus plataformas. La compañía ha enfrentado demandas y críticas de legisladores por los riesgos que sus servicios de redes sociales podrían representar para los jóvenes. En agosto, Meta acordó pagar hasta 18 mil millones de dólares para resolver una demanda de seguridad infantil que involucraba a 29 estados de EE.UU., abordando preocupaciones sobre la protección de los niños en línea.
Este año, Meta ha introducido varias características de seguridad infantil, incluyendo controles parentales para Meta AI, cuentas para preadolescentes en WhatsApp y alertas para padres cuando los niños buscan contenido de autolesión en Instagram. En septiembre, WhatsApp añadió más controles para padres, permitiéndoles limitar cómo los adolescentes usan Canales, controlar quién puede ver sus actualizaciones de estado y decidir quién puede agregar a sus hijos a grupos.