An algorithm off switch isn’t enough. Big tech needs a duty of care over addictive designs | Zoe Daniel
En un mundo donde la inteligencia artificial avanza a pasos agigantados y los gobiernos luchan por gestionar desarrollos tecnológicos que no comprenden del todo, la necesidad de responsabilizar a las grandes tecnológicas es cada vez más apremiante. Como señala Zoe Daniel, un simple interruptor para desactivar el algoritmo no es suficiente. Se requiere un deber digital de cuidado que responsabilice a los gigantes tecnológicos por los diseños adictivos que han creado.
La prohibición de redes sociales para menores de 16 años y los esfuerzos gubernamentales en la publicidad de apuestas han demostrado ser medidas superficiales que no abordan el problema de raíz. El verdadero desafío es que las plataformas digitales asuman la responsabilidad por la seguridad de los espacios que han diseñado, algo que el actual marco regulatorio no garantiza.
La campaña «Fix our feeds», impulsada por Chanel Contos, ha puesto de relieve los efectos perjudiciales del algoritmo, especialmente en temas de misoginia en línea y violencia sexual. Sin embargo, permitir que los usuarios controlen su exposición al algoritmo no es suficiente para crear una verdadera rendición de cuentas, especialmente si el usuario debe optar por salir de estos sistemas.
Los diseños adictivos están erosionando la atención y la productividad, mientras que los problemas de salud mental aumentan. Además, el contenido divisivo y escandaloso se amplifica, incrementando el aislamiento social en todas las edades. La clave para recuperar nuestra «soberanía informativa» es implementar un deber de cuidado digital obligatorio y aplicable a las grandes tecnológicas.
En 2024, se presentó un proyecto de ley de deber digital de cuidado en el parlamento federal, inspirado en la mejor legislación del Reino Unido y la UE. Este proyecto busca hacer que las plataformas sean espacios seguros para todos, incluyendo configuraciones de privacidad predeterminadas más estrictas y la capacidad de restablecer y «apagar» el algoritmo. También exige evaluaciones de riesgo detalladas, transparencia y acceso para investigadores independientes, además de sanciones severas por incumplimiento.
Este enfoque no se centra tanto en el contenido, sino en los sistemas que lo impulsan. Un deber de cuidado bien ejecutado protegería a todos, independientemente de si optan por salir o no, responsabilizando a las plataformas por el diseño de sus sistemas y el riesgo resultante para el bienestar emocional, la cohesión política y social, y los diseños adictivos.