El Cap. IV de Magnífica Humanidad cierra con una advertencia de León XIV del uso de la IA: cuando entra en procesos que inciden en la vida de las personas, afecta sus derechos, oportunidades, reputación y libertad.
“Las decisiones que repercuten en el trabajo, el acceso a créditos y a otros servicios, y la reputación de las personas, corren el riesgo de ser confiadas completamente a sistemas automatizados que no conocen «la compasión, el perdón y la apertura a la esperanza de cambio en el individuo», pudiendo así producir nuevas formas de descarte. Puede haber usos evidentemente antihumanos (la manipulación de la información o la violación de la privacidad)”.
“Confiar a un algoritmo el poder de seleccionar quién es digno y quién no, sin que nadie asuma el peso de la decisión, significa encomendarle la tarea de redefinir los límites de las posibilidades humanas. Disminuye la empatía hacia el excluido y la responsabilidad política, porque el descarte de los débiles queda revestido de una neutralidad y una objetividad ante las cuales es imposible protestar. No podemos considerar a la IA como moralmente neutra. Todo artefacto técnico lleva consigo decisiones y prioridades: lo que mide, lo que ignora, lo que optimiza y el modo en que clasifica personas y situaciones».
“Para que la IA respete la dignidad humana y sirva realmente al bien común, es esencial que las responsabilidades estén claras en todas las etapas: desde quienes diseñan y programan los sistemas hasta quienes los utilizan y quienes resuelven confiarles las decisiones concretas. En muchos casos los procesos internos que conducen a un resultado pueden ser poco transparentes, y eso hace más difícil atribuir responsabilidades y corregir los errores. Es aquí donde se vuelve decisivo lo que llamamos “responsabilidadˮ (Accountability): la posibilidad de identificar quién debe “rendir cuentasˮ de las decisiones, motivarlas, controlarlas y, cuando es necesario, cuestionarlas y remediar los daños que derivan de ellas».
León XIV plantea un reto para la sociedad política y sus gobernantes: “No podemos limitarnos a invocar la moralización de la máquina sin poner una condición: la posibilidad de discutir el código ético que debe ser usado, sometiéndolo a criterios de justicia social compartida.
Se necesita una política más presente, capaz de ralentizar donde todo acelera y de proteger los espacios en los que las comunidades pueden seguir participando e interrogándose.
“Por eso es indispensable que el uso de la IA -más cuando involucra bienes públicos y derechos fundamentales- esté acompañado de criterios claros y controles efectivos, inspirados en la participación y la subsidiariedad. Además, la propiedad de los datos no puede confiarse sólo al sector privado, sino que debe reglamentarse. Hace falta una creatividad capaz de gestionarlos como uno de los bienes comunes o colectivos».
“Desarmar la IA es sustraerla a la lógica de la competencia armamentística, que no es sólo militar sino económica y cognitiva. Es la carrera por el algoritmo más eficaz y por el banco de datos más amplio, para consolidar una ventaja geopolítica o comercial. Desarmar es romper esta equivalencia entre poder tecnológico y derecho a gobernar; significa impedirle el dominio sobre lo humano; sustraerla a los monopolios, hacerla discutible, refutable, y por tanto habitable, restableciendo en ella la pluralidad de las culturas humanas y de las formas de vida. La tarea, hoy, no es sólo ética o técnica, es ecológica en el sentido más radical, porque interpela una nueva dimensión de nuestra Casa común».
“En un ecosistema la armonía se rompe cuando una sola especie prolifera en detrimento de las demás; en lo humano, ocurre lo mismo cuando una facultad pretende ser la medida de todo. Así, la inteligencia, si se absolutiza, termina por velar otras dimensiones esenciales de la vida: el afecto, la voluntad, la entrega y la relación».
Hoy, todo lo que representa un “límiteˮ -incapacidad, enfermedad, ancianidad, sufrimiento, vulnerabilidad- tiende a ser leído como un defecto que hay que corregir, más que como un espacio en el que el ser humano madura y se abre a la relación. Debemos recordar que el ser humano no florece a pesar del límite, sino a menudo a través del límite.
