Eduardo Agosta Scarel, O. Carm.
Director del Departamento de Ecología Integral conferencia Espicopal Española
Miembro de la Pontificia Academia para la Vida
La torre de Babel y el camino de Nehemías, desarmar la IA
Como ya hemos visto en las notas precedentes, la encíclica Magnifica Humanitas (MH) del papa León XIV ofrece un profundo discernimiento sobre las rápidas transformaciones impulsadas por la digitalización, la inteligencia artificial (IA) y la robótica. La propuesta del Santo Padre comienza con dos imágenes bíblicas muy potentes para interpretar nuestro progreso tecnológico: la «torre de Babel» digital (cf. Gen 11,1- 9), que representa el afán de dominio, el paradigma tecnocrático y la idolatría del beneficio que deshumaniza y homogeneiza, y, frente a ella, el «camino de Nehemías» (cf. Neh 2-6), para reconstruir Jerusalén, que simboliza una innovación guiada por la responsabilidad compartida, la comunión, el diálogo y el servicio al bien común (cf. MH, 1 y 7).
A lo largo de sus capítulos, el papa establece que la tecnología «no es neutral» porque asume la forma de quien la concibe, la financia, la regula y la utiliza (cf. MH, 9, 102-103). Por ello debe ser gobernada, «para orientar[la] al bien común» (MH, 5), para proteger la dignidad inalienable del ser humano y evitar que el poder tecnológico se concentre en manos privadas que escapan al control público y democrático (cf. MH, 80, 95, 105-108). En este sentido, el papa llama a «desarmar la IA» para «sustraerla de la lógica de la competencia armada, que hoy en día ya no es solo militar, sino también económica y cognitiva» (MH, 110). Para él, «desarmar no significa renunciar a la tecnología, sino impedir que domine a lo humano» (ib.). La tarea, por tanto, no es «solo ética o técnica, sino ecológica en el sentido más radical», porque, según la carta pastoral, «pone en juego una nueva dimensión de nuestra casa común» (ib.).
La verdad como bien común
El Santo Padre constata que, en la era digital, la desinformación y la manipulación de imágenes mediante la IA amenazan la democracia y el imaginario colectivo (cf. MH, 134-135). Es más, «la transformación digital nos pide redescubrir la verdad como bien común, proteger la dignidad del trabajo y salvaguardar la libertad frente a toda dependencia y mercantilización» (MH, 131). Es decir, «la verdad de los hechos, asumida como un bien común, puede fundamentar una comunicación justa» (MH, 132) y proteger la dignidad humana. Asimismo, la encíclica llama a una «ecología de la comunicación» (MH, 137 y ss.) y a una alianza educativa que fortalezca el pensamiento crítico y proteja a los jóvenes de las adicciones tecnológicas y de la explotación en la red (cf. MH, 139 y ss.).
Dignidad del trabajo, nuevas esclavitudes y la normalización de la guerra
León XIV advierte que la IA no debe relegar a los humanos a funciones rígidas ni someterlos a una «vigilancia automatizada» al descalificar a los trabajadores (cf. MH, 150). Además, denuncia con fuerza las cadenas invisibles de la economía digital en las que millones de trabajadores (especialmente jóvenes y mujeres) mal remunerados entrenan algoritmos y etiquetan datos, conformando nuevas formas de esclavitud y de colonialismo digital (cf. MH, 173).
El Santo Padre, una vez más en comunión con papas precedentes, condena la «normalización de la guerra», «las decisiones de rearme» y la operación en el discurso público para rehabilitar «la guerra como instrumento de política internacional» (MH, 189 y ss.). Es más, de forma contundente, rechaza delegar en sistemas de armas impulsados por IA la toma de decisiones letales, recordando que las máquinas carecen de juicio moral, compasión y responsabilidad (cf. MH, 197-200).
En diálogo con Laudato Si’
El papa León, en MH, adopta y profundiza de manera orgánica en el magisterio del papa Francisco en Laudato Si’, destacando que la sostenibilidad y la justicia ecológica son los pilares para evaluar cualquier avance tecnológico, incluida la IA. En MH, León XIV resalta que la crisis medioambiental es la expresión ecológica de la crisis socioeconómica, y que «la propuesta de la ecología integral une el cuidado de la casa común y la opción preferencial por los pobres» (MH, 43); por lo tanto, no se pueden separar el grito de la tierra y el de los pobres (cf. ib.). Asimismo, el papa recuerda que la doctrina social de la Iglesia entiende por desarrollo integral humano «un proceso en el que el crecimiento de las personas y de los pueblos abarca todas las dimensiones de la existencia y abre el futuro también a las generaciones venideras» (MH. 82). Ante ello, reivindica que el desarrollo humano integral encuentra «un criterio decisivo de verificación en la ecología integral» (MH, 84). La ecología integral es una dimensión imprescindible de la doctrina social de la Iglesia que mide la calidad del progreso por su capacidad de «mantener unidas, sin separarlas, la justicia hacia las personas y la custodia de la casa común, favoreciendo condiciones de vida dignas, el acceso a los bienes necesarios, relaciones sociales justas, el cuidado de la creación y la atención a las generaciones futuras» (ib.). Es decir, una innovación tecnológica no puede considerarse un verdadero progreso si aumenta el bienestar de unos pocos a costa de degradar los ecosistemas o de perjudicar a las futuras generaciones. Por ello, cualquier innovación tecnológica, incluida la IA, debe evaluarse con una pregunta fundamental: «¿Contribuye realmente a que las personas y los pueblos crezcan en humanidad y fraternidad, en el respeto de la casa común y de las generaciones futuras?» (MH, 85). Así, los principios de la doctrina social pueden convertirse en criterios concretos de discernimiento.
La materialidad del impacto de la IA
Frente a la ilusión de que el mundo digital es «inmaterial o mágico» (MH, 65), el papa León denuncia que los sistemas actuales de IA exigen enormes cantidades de energía y agua, incrementan las emisiones de dióxido de carbono y requieren infraestructuras intensivas en recursos (cf. MH, 101). De manera dramática, advierte sobre la extracción de «tierras raras» necesarias para fabricar microprocesadores, un proceso destructivo en el que niños y adolescentes trabajan en condiciones peligrosas, dejando «cuerpos marcados, mutilados, consumidos para que el flujo de cálculo no se interrumpa» (MH, 173). Ante esto, es imperativo exigir transparencia en las cadenas de suministro y desarrollar soluciones tecnológicas «más sostenibles para reducir el impacto sobre el medio ambiente y cuidar nuestra casa común» (MH, 101).
Una de las grandes aportaciones de la primera carta pastoral del papa León XIV es ampliar los conceptos de ecología y de bien común al ámbito virtual. Así, el papa afirma que «al igual que el medio ambiente natural, también el “ecosistema digital” puede ser custodiado o explotado, compartido o monopolizado» (MH, 76). En este sentido, bienes como los datos, los algoritmos y las plataformas digitales deben someterse al principio del destino universal de los bienes (cf. MH, 67). El uso de los recursos de la creación y de la tecnología debe regularse «de tal manera que se respete el medio ambiente, se eviten los despilfarros y las nuevas formas de expoliación» (ib.).
Resistir al paradigma tecnocrático al transhumanismo
En estrecha resonancia con Laudato Si’, el Santo Padre alerta de que la tecnología digital acelera el «paradigma tecnocrático», que tiende a reducir la creación a un simple objeto de dominación y explotación, y a los seres humanos a meros engranajes o recursos de optimización (cf. MH, 92-93). Este paradigma se cristaliza en corrientes ideológicas muy plurales, como el poshumanismo y el transhumanismo, que ven los límites de la condición humana (como la vulnerabilidad o la fragilidad) como defectos a corregir, hasta el punto de que «en nombre del progreso se puede llegar a imaginar “sacrificios necesarios” y hacer que los más frágiles paguen el precio de una supuesta optimización de la especie [humana]» (MH, 117). El papa nos recuerda que «el ser humano no florece a pesar del límite, sino a menudo a través del límite» (MH, 118), como pueden ser la incapacidad, la enfermedad, la vejez, el sufrimiento y la propia vulnerabilidad (cf. ib.). Si bien es cierto que es nuestra tarea intentar eliminar el sufrimiento que marca la vida humana, reconocer nuestra propia finitud constitutiva es sensatez, «sabiendo que la experiencia religiosa y, en particular, la fe cristiana, proponen habitar, sin simplificaciones, esta ambivalencia entre la grandeza y la limitación del ser humano, interpretándola a la luz de la relación originaria y fundante con Dios» (ib.).
Por lo tanto, abrazar nuestra finitud no es una derrota frente al avance tecnológico, sino la condición necesaria para un progreso verdaderamente humano. Frente al paradigma tecnocrático que busca dominar la creación y a la ilusión de una IA inmaterial e inofensiva, la ecología integral nos recuerda que tanto la tierra como el nuevo ecosistema digital conforman nuestra casa común. Solo asumiendo nuestros propios límites y manteniendo unida la justicia hacia los más vulnerables con la custodia del medio ambiente, lograremos que la tecnología rinda un verdadero servicio al desarrollo integral humano.
