Cuando decidir no es calcular: inteligencia artificial, justicia y Derecho Natural
La inteligencia artificial no plantea únicamente una revolución tecnológica, sino que nos obliga a precisar, con una exactitud incómoda, qué idea de justicia queremos trasladar a las máquinas. Pocas materias han generado en los últimos años tanta literatura, y en ocasiones tan repetitiva, como la inteligencia artificial. Se ha escrito sobre su impacto en el empleo, sobre la protección de datos, sobre la propiedad intelectual, sobre la responsabilidad derivada de sus errores y sobre el riesgo de que el legislador llegue tarde o de que legisle demasiado, y todo a una velocidad difícilmente compatible con la capacidad humana para comprender, asimilar y en su caso para legislar adecuadamente.
Si bien todas las cuestiones prácticas derivadas de la IA son relevantes, y a los abogados ya nos afectan en nuestro trabajo diario, considero que existen algunas cuestiones jurídico-filosóficas, menos visibles y bastante más incómodas, que merecen plantearse antes que las demás. La inteligencia artificial no solo nos obliga a preguntarnos quién responde cuando una máquina se equivoca, también nos obliga a preguntarnos qué entendemos por una decisión correcta, y eso nos lo tenemos que preguntar cuando ni siquiera los seres humanos hemos sido capaces de ponernos de acuerdo sobre ello.
El debate no es tecnológico, sino que es filosófico y entra de lleno en el terreno del derecho natural. No porque el derecho tenga todas las respuestas, sino porque lleva siglos intentando ordenar precisamente aquello que no admite una solución matemática como la convivencia entre libertad y seguridad, entre culpa e intención o entre eficiencia y dignidad.
En estas discusiones se suele acudir al ejemplo, ya casi canónico, del vehículo autónomo que debe elegir entre proteger a sus ocupantes o minimizar el número total de víctimas. Si bien el ejemplo está muy manido todavía conserva su utilidad ya que nos hace ser conscientes de que la inteligencia artificial nos obliga a anticipar decisiones trágicas y a convertirlas en reglas escritas de antemano.
El filósofo Michael J. Sandel, en su libro “Justicia», recurre a algunos dilemas morales para mostrar que nuestra percepción de lo justo no depende únicamente del resultado. El más conocido es el del tranvía descontrolado que avanza hacia cinco personas, si accionamos una palanca, el tranvía cambia de vía y muere una sola. Desde una lógica puramente consecuencialista la respuesta parece sencilla, sacrificar a uno para salvar a cinco. La gran mayoría de personas, en dicha situación, aceptan y consideran que accionar la palanca es la decisión correcta.
Sandel te plantea entonces una variante que te hace cambiar el punto de vista. Un médico podría salvar a cinco pacientes en riesgo inminente de morir y que están a la espera de un trasplante, para ello tendría que utilizar los órganos de una persona sana que se encuentra en el hospital de visita. El balance numérico es idéntico, una vida frente a cinco y sin embargo casi nadie admitiría que el médico matara deliberadamente a esa persona para obtener sus órganos.
El resultado aritmético es el mismo, pero la valoración moral cambia radicalmente. ¿Por qué? Porque no juzgamos solo consecuencias, juzgamos también medios, intenciones, posiciones de deber y límites que no estamos dispuestos a franquear aunque el resultado agregado parezca más eficiente. En definitiva, no solamente importan las consecuencias, sino que también importa y mucho cómo se produce el resultado.
Nuestro derecho está construido sobre esa tensión, no todo daño queda justificado por producir un beneficio mayor, ni toda utilidad social permite sacrificar a un individuo. El derecho natural y los derechos fundamentales funcionan, en buena medida, como barreras frente a la tentación de convertir a la persona en una variable dentro de un cálculo general.
La inteligencia artificial tensiona exactamente ese punto, porque una máquina necesita criterios. Necesita instrucciones, ponderaciones, umbrales de riesgo. Allí donde el juez puede razonar, matizar y motivar, donde el legislador puede refugiarse en conceptos jurídicos indeterminados y donde el abogado puede discutir la diligencia o la proporcionalidad. El sistema automatizado exige, en algún momento, una traducción operativa y traducir valores al lenguaje de una máquina implica decidir qué valores prevalecen y por tanto bajar toda nuestra realidad a unos y ceros.
Otro ejemplo, también tratado por Sandel y llevado al cine en “El único superviviente” (Lone Survivor), muestra el problema desde otro ángulo. Un grupo de soldados estadounidenses en Afganistán descubre a unos pastores que pueden revelar su posición al enemigo. Pueden matarlos y proteger la operación, o dejarlos marchar respetando sus vidas. Optan por lo segundo y poco después son localizados y la mayoría muere, así como buena parte de sus rescatadores.
Regístrate para leer esta noticia
Solo necesitas tu email. Sin contraseñas.