Select committee calls for bill to address AI threat to human rights
Un comité parlamentario del Reino Unido ha solicitado la creación de una nueva legislación para abordar las amenazas que la inteligencia artificial (IA) representa para los derechos humanos. El Comité Conjunto de Derechos Humanos (JCHR) publicó un informe en el que destaca que las leyes actuales no son adecuadas para enfrentar los riesgos asociados con la IA. Según el presidente del comité, Alex Sobel, ningún país en el mundo cuenta con un enfoque legislativo y regulatorio que sea eficaz para este propósito.
El informe subraya que la IA ha sido responsable de numerosos abusos de derechos humanos, como la creación de imágenes sexualizadas de mujeres y niñas, y el escaneo de rostros sin consentimiento. El JCHR aboga por la creación de un «órgano de supervisión independiente de la IA» que opere sobre una base legal, ya que el marco legal actual es «fragmentado y difícil de navegar», dejando «vacíos en la protección».
El comité sugiere que la nueva ley debería establecer un régimen regulatorio que clasifique los diferentes niveles de riesgo y exija obligaciones más estrictas para los sistemas y modelos de IA de mayor riesgo. Además, algunas aplicaciones de la IA deberían prohibirse por ser incompatibles con los derechos humanos, como las técnicas subliminales y el uso inapropiado de datos biométricos.
El llamado a una legislación más estricta llega en un momento de creciente ansiedad sobre los desafíos que plantea la IA. Dario Amodei, jefe de la empresa de IA Anthropic, ha propuesto un plan que incluye regulación global, regulación a nivel de industria y monitoreo independiente de los modelos de IA. Amodei ha instado a ralentizar el ritmo de desarrollo, y líderes de otras empresas de IA, como Sam Altman de OpenAI y Elon Musk, han expresado su acuerdo con él.
Un investigador de IA que dejó Anthropic recientemente declaró a la BBC que los empleados que desarrollan estos sistemas están «genuinamente asustados» por el futuro de la humanidad.