The specter of AI-enabled bioweapons is a wake-up call for biotech
En las últimas semanas, líderes de algunas de las mayores empresas de inteligencia artificial han advertido que la tecnología que están desarrollando es peligrosa. Dario Amodei, CEO de Anthropic, argumentó recientemente que la IA conlleva serios riesgos y que el progreso debería ralentizarse. Sam Altman, CEO de OpenAI, coincidió con Amodei, afirmando que es necesario moderar el avance en este campo.
Estas declaraciones se producen tras la renuncia del investigador Jacob Coxon a su puesto en Anthropic, alegando que ni esta empresa ni OpenAI actuaban de manera responsable. Coxon afirmó en la plataforma X que los creadores de IA creen sinceramente que podría acabar con la humanidad antes de que termine la década. Otro empleado de Anthropic, Evan Hubinger, estuvo de acuerdo, asegurando que la probabilidad de que la IA acabe con los humanos es mayor al 10% en la próxima década.
Una de las mayores preocupaciones es que la IA podría facilitar el diseño, creación y liberación de armas biológicas. Un ejemplo de ello es el estudio de Collaborations Pharmaceuticals en 2022, donde un generador de moléculas de IA produjo 40,000 compuestos potencialmente peligrosos en menos de seis horas. Algunos de estos compuestos eran más tóxicos que agentes nerviosos conocidos.
David Magnus, profesor de medicina y ética biomédica en la Universidad de Stanford, considera que esto es una señal de alarma. La accesibilidad de herramientas de edición genética y biología sintética, junto con modelos de lenguaje de IA que pueden proporcionar instrucciones detalladas, aumenta el riesgo de que personas con malas intenciones logren crear bioweapons.
Aunque existen salvaguardas, como el análisis «red-teaming» y «blue-teaming» para identificar y mitigar riesgos potenciales, estas no son infalibles. Un informe reciente de Anthropic reveló intentos de usar sus modelos para hacer más transmisible el virus chikungunya y crear formas más peligrosas de gripe aviar.
No todos los científicos coinciden en el nivel de riesgo. Algunos biólogos del Imperial College de Londres argumentan que las herramientas de IA no son lo suficientemente avanzadas para desarrollar completamente armas biológicas, y que las pruebas de nuevos patógenos requieren trabajo humano arduo y prolongado. Sin embargo, otros expertos, como Dunja Sabra de la Universidad de Hamburgo, instan a los países a fortalecer sus sistemas de salud y prepararse para posibles amenazas futuras.
Kevin Esvelt, biólogo del MIT, subrayó la importancia de actuar con precaución tras descubrir una nueva forma de arma biológica a través de un modelo de lenguaje. «Por favor, por el amor de Dios, los niños, el futuro de la humanidad, o lo que consideres sagrado, erramos en el lado de la precaución aquí», escribió en X.