Ya tienes disponibles las presentaciones y las ponencias y mesas redondas del curso

En el mensaje para la Jornada Mundial de la Paz de este año 2024, el Papa Francisco decía:

«Nos alegramos justamente y agradecemos las extraordinarias conquistas de la ciencia y de la tecnología, gracias a las cuales se ha podido poner remedio a innumerables males que afectaban a la vida humana y causaban grandes sufrimientos. Al mismo tiempo, los progresos técnico-científicos, haciendo posible el ejercicio de un control sobre la realidad, nunca visto hasta ahora, están poniendo en las manos del hombre una vasta gama de posibilidades, algunas de las cuales representan un riesgo para la supervivencia humana y un peligro para la casa común. 

Los notables progresos de las nuevas tecnologías de la información, especialmente en la esfera digital, presentan, por tanto, entusiasmantes oportunidades y graves riesgos, con serias implicaciones para la búsqueda de la justicia y de la armonía entre los pueblos. Por consiguiente, es necesario plantearse algunas preguntas urgentes. ¿Cuáles serán las consecuencias, a medio y a largo plazo, de las nuevas tecnologías digitales? ¿Y qué impacto tendrán sobre la vida de los individuos y de la sociedad, sobre la estabilidad internacional y sobre la paz?»

El Curso de Doctrina Social de la Iglesia está organizado por la Comisión Episcopal para la Pastoral Social y Promoción Humana, La Fundación Pablo VI y la Facultad de Ciencias Políticas y Sociología (UPSA).

Tuvo lugar los días 2 al 3 de julio de 2024, en la sede de la Fundación Pablo VI en Madrid.

PROGRAMA

Martes, 2 de julio de 2024

10:30 h Recepción

11:00 h Apertura del curso

• Saludos del Presidente de la Comisión Episcopal para la Pastoral Social y Promoción Humana y del Director General de la Fundación Pablo VI
• Presentación: D. Fernando Fuentes Alcántara
  Director del Secretariado de la Comisión Episcopal para la Pastoral Social y Promoción Humana

Conferencia de apertura

• Introducción: D. Jesús Avezuela Cárcel
  Director General de la Fundación Pablo VI
• Ponente:
  La inteligencia artificial, un signo de los tiempos
  D. Manuel Barrios Prieto
  Secretario General de la Comisión de las Conferencias Episcopales de la Unión Europea (COMECE)

12:15 h Descanso

12:30 h Diálogo tecnológico-ético
La IA, ¿servidumbre o progreso humano?

• D. Ángel González Ferrer
  Centre for Digital Culture. Dicasterio para la Cultura y Educación del Vaticano
• D. Richard Benjamins
  Director General de OdiseIA
• Moderador: Jesús Avezuela
  Director General de la Fundación Pablo VI

16:30 h 1.ª Mesa redonda:
Principales ámbitos de incidencia de la IA en la Doctrina Social de Iglesia: retos y posibilidades

• D. Jesús Sánchez Camacho
  Universidad Pontificia Comillas

• D. Alfonso Novo Cid-Fuentes
  Instituto Teológico Compostelano
• D. Ángel González Ferrer
  Centre for Digital Culture. Dicasterio para la Cultura y Educación

• Moderador: Fernando Fuentes
  Director del Secretariado de la Comisión Episcopal

18:15 h Descanso

18:30 h 2.ª Conferencia:
La brecha digital. Su impacto en la desigualdad social

• D. Raúl Flores Martos.
  Fundación Foessa

• Moderador: Sebastián Mora
  Universidad Pontificia Comillas

Miércoles, 3 de julio de 2024

10:00 h 3.ª Conferencia:

Los retos antropológicos de la inteligencia artificial

D. Francesc Torralba Rosselló.
Universidad Ramón Llull

• Moderador: José Ramón Amor
  Director del Área Académica de la Fundación Pablo VI

11:15 h Descanso

11:30 h 2.ª Mesa redonda:
Retos de la inteligencia artificial en la comunicación, la vida política y económica

• D. Pedro Diego Solís
  Universidad Rey Juan Carlos de Madrid
• D. Pablo S. Blesa Aledo
  Universidad Católica de Murcia

• D. Rafael Rubio Núñez
  Universidad Complutense de Madrid
• Moderadora: Sandra Várez
  Directora de Comunicación y Relaciones Institucionales de la Fundación Pablo VI

16:30 h 4.ª Conferencia:
Inteligencia artificial y derechos humanos

• D.ª Sara Lumbreras Sancho. 
  Universidad Pontificia Comillas
• Moderadora: Marta Pedrajas
  Directora de la Cátedra de Estudios Europeos “Camino de Santiago”

18:00 h Clausura del curso

• Mons. D. Ginés García Beltrán
  Obispo de Getafe y Presidente de la Fundación Pablo VI 

Presentación del Curso

También te puede interesar

DOCUMENTOS DE INTERÉS

Mensaje para la Jornada Mundial de la Paz 2024: Inteligencia artificial y Paz

Sabiduría del corazón e Inteligencia Artificial (Carta de Mons. Mario Iceta)

Inteligencia artificial y sabiduría del corazón para una comunicación plenamente humana (mensaje del Papa Francisco para la 58 jornada mundial de las comunicaciones sociales

Papa Francisco: ¿Seguiremos llamando inteligenia artificial a algo que no lo es?

VATICAN NEWS, 14/4/2024:

No ceder ante el poder tecnocrático y quizás no seguir llamando inteligencia a lo que no lo es». Lo dijo el Papa al dirigirse a la Fundación Centesimus Annus en la clausura de la Conferencia Internacional anual dedicada, esta vez, a la Inteligencia Artificial. Indicó asimismo una serie de pistas para seguir reflexionando sobre «un tema que merece gran atención» y en el que «se jugará el futuro de la economía, de la civilización, de la humanidad misma

«La inteligencia artificial es y debe seguir siendo una herramienta en manos del hombre. ¿Estamos seguros de querer seguir llamando ‘inteligencia’ a lo que no lo es?». El Papa Francisco volvió sobre el tema de la Inteligencia Artificial (IA) dirigiéndose a los participantes en la Conferencia Internacional de la Fundación Centesimus Annus Pro Pontifice que este 22 de junio concluye sus trabajos sobre el desafiante tema de la «Inteligencia Artificial Generativa y el Paradigma Tecnocrático: cómo promover el bienestar de la humanidad, el cuidado de la naturaleza y un mundo de paz».

El Papa se centra en la cuestión del AI

Francisco vuelve a un tema sobre el que ha hablado en varias ocasiones, la última en su discurso al G7 en Apulia, y anteriormente escribiendo sobre él en la Laudato si’, en la Laudate Deum y en su Mensaje para la Jornada Mundial de la Paz de este año porque, explicó: «La AI tiene una influencia perturbadora en la economía y en la sociedad y puede tener repercusiones negativas en la calidad de vida, en las relaciones entre las personas y entre los países, en la estabilidad internacional y en la casa común». Así pues, el Papa manifestó su satisfacción por la elección que hizo la Fundación.

“Aprecio que la Centesimus Annus haya dedicado un amplio espacio a este tema, implicando a estudiosos y expertos de diferentes países y disciplinas, analizando las oportunidades y los riesgos asociados al desarrollo y a la utilización de la IA, con un enfoque transversal y sobre todo con una mirada antropocéntrica, y siendo conscientes del peligro de un reforzamiento del paradigma tecnocrático”

Preocupa un posible fortalecimiento de la tecnocracia

En particular, el Papa destacó favorablemente la elección de un enfoque multidisciplinar de la IA, esencial para comprender todos sus aspectos. Por ello, reiteró «la necesidad de un desarrollo ético de los algoritmos en el que los valores guíen los caminos de las nuevas tecnologías», subrayando que la IA, como otras «herramientas clave» creadas por el hombre, «es y debe seguir siendo una herramienta» en sus manos. Francisco hizo hincapié en el poder transformador de la IA tanto positiva como negativamente.

En este segundo sentido, la IA podría reforzar el paradigma tecnocrático y la cultura del despilfarro, la disparidad entre naciones avanzadas y en desarrollo, la delegación en las máquinas de decisiones esenciales para la vida humana

Saludo del Papa a la presidenta, Anna Maria Tarantola

Preguntémonos: ¿es esto lo que queremos?

Con ocasión de la reciente reunión del G7, el Papa recordó que por ello había invitado «a la política a tomar medidas concretas para gobernar el proceso tecnológico en curso en la dirección de la fraternidad universal y de la paz».

A continuación, citó a Stephen Hawking, el conocido cosmólogo, físico y matemático, que sostenía en una entrevista a la BBC que «el desarrollo de la IA completa podría significar el fin de la raza humana». Así que el Pontífice se preguntó: «¿Es esto lo que queremos?».

La pregunta básica que hay que hacerse es la siguiente: ¿para qué sirve la IA? ¿Sirve para satisfacer las necesidades de la humanidad, para mejorar el bienestar y el desarrollo integral de las personas, o sirve para enriquecer y aumentar el ya elevado poder de unos pocos gigantes tecnológicos a pesar de los peligros que entraña para la humanidad? Y esta es la pregunta básica

Para que la IA sea beneficiosa para la humanidad, es necesario establecer criterios para su desarrollo, y en este sentido el Papa sugirió algunos puntos de reflexión que cuestionan «diversas ramas de la filosofía y del derecho, así como disciplinas más específicas». Se centran en el sentido de la responsabilidad, en una «regulación eficaz», en el papel del mundo de la educación y la comunicación «para aumentar el conocimiento y la conciencia de cómo utilizar correctamente la IA» y cómo transmitirla a los jóvenes.

A continuación, prosiguió el Santo Padre, deben examinarse las cuestiones del trabajo, la seguridad y los efectos sobre la «capacidad relacional y cognitiva» de las personas, sin olvidar el problema del gran consumo de energía que requiere la IA.

“Queridos amigos, es en el frente de la innovación tecnológica donde se jugará el futuro de la economía, de la civilización, de la propia humanidad. No debemos perder la oportunidad de pensar y actuar de un modo nuevo, con la mente, el corazón y las manos, para orientar la innovación hacia una configuración centrada en la primacía de la dignidad humana. Esto no debe discutirse”

La provocación de Francisco

Es por todo esto que Francisco espera que el compromiso de la Fundación Centesimus Annus Pro Pontifice continúe con valentía, como a través del lanzamiento del segundo proyecto conjunto de investigación entre la Fundación y la Alianza Estratégica de Universidades Católicas de Investigación (SACRU), y dijo: «¡Por favor, manténganme informado al respecto!»

La conclusión de su discurso es deliberadamente «una provocación»:

“¿Estamos seguros de que queremos seguir llamando ‘inteligencia’ a lo que no lo es? Es una provocación. Reflexionemos sobre ello, y preguntémonos si el mal uso de esta palabra tan importante, tan humana, no es ya una rendición al poder tecnocrático”

La entrada CURSO: Los desafíos de la inteligencia artificial a la Doctrina Social de la Iglesia se publicó primero en Comisión Episcopal para la Pastoral Social y la promoción humana.

1 DE ENERO DE 2024

Al iniciar el año nuevo, tiempo de gracia que el Señor nos da a cada uno de nosotros, quisiera dirigirme al Pueblo de Dios, a las naciones, a los Jefes de Estado y de Gobierno, a los Representantes de las distintas religiones y de la sociedad civil, y a todos los hombres y mujeres de nuestro tiempo para expresarles mis mejores deseos de paz.

1. El progreso de la ciencia y de la tecnología como camino hacia la paz

La Sagrada Escritura atestigua que Dios ha dado a los hombres su Espíritu para que tengan «habilidad, talento y experiencia en la ejecución de toda clase de trabajos» (Ex 35,31). La inteligencia es expresión de la dignidad que nos ha dado el Creador al hacernos a su imagen y semejanza (cf. Gn 1,26) y nos ha hecho capaces de responder a su amor a través de la libertad y del conocimiento. La ciencia y la tecnología manifiestan de modo particular esta cualidad fundamentalmente relacional de la inteligencia humana, ambas son producto extraordinario de su potencial creativo.

En la Constitución pastoral Gaudium et spes, el Concilio Vaticano II ha insistido en esta verdad, declarando que «siempre se ha esforzado el hombre con su trabajo y con su ingenio en perfeccionar su vida». [1] Cuando los seres humanos, «con ayuda de los recursos técnicos», se esfuerzan para que la tierra «llegue a ser morada digna de toda la familia humana», [2] actúan según el designio de Dios y cooperan con su voluntad de llevar a cumplimiento la creación y difundir la paz entre los pueblos. Asimismo, el progreso de la ciencia y de la técnica, en la medida en que contribuye a un mejor orden de la sociedad humana y a acrecentar la libertad y la comunión fraterna, lleva al perfeccionamiento del hombre y a la transformación del mundo.

Nos alegramos justamente y agradecemos las extraordinarias conquistas de la ciencia y de la tecnología, gracias a las cuales se ha podido poner remedio a innumerables males que afectaban a la vida humana y causaban grandes sufrimientos. Al mismo tiempo, los progresos técnico-científicos, haciendo posible el ejercicio de un control sobre la realidad, nunca visto hasta ahora, están poniendo en las manos del hombre una vasta gama de posibilidades, algunas de las cuales representan un riesgo para la supervivencia humana y un peligro para la casa común. [3]

Los notables progresos de las nuevas tecnologías de la información, especialmente en la esfera digital, presentan, por tanto, entusiasmantes oportunidades y graves riesgos, con serias implicaciones para la búsqueda de la justicia y de la armonía entre los pueblos. Por consiguiente, es necesario plantearse algunas preguntas urgentes. ¿Cuáles serán las consecuencias, a medio y a largo plazo, de las nuevas tecnologías digitales? ¿Y qué impacto tendrán sobre la vida de los individuos y de la sociedad, sobre la estabilidad internacional y sobre la paz?

2. El futuro de la inteligencia artificial entre promesas y riesgos

Los progresos de la informática y el desarrollo de las tecnologías digitales en los últimos decenios ya han comenzado a producir profundas transformaciones en la sociedad global y en sus dinámicas. Los nuevos instrumentos digitales están cambiando el rostro de las comunicaciones, de la administración pública, de la instrucción, del consumo, de las interacciones personales y de otros innumerables aspectos de la vida cotidiana.

Además, las tecnologías que usan un gran número de algoritmos pueden extraer, de los rastros digitales dejados en internet, datos que permiten controlar los hábitos mentales y relacionales de las personas con fines comerciales o políticos, frecuentemente sin que ellos lo sepan, limitándoles el ejercicio consciente de la libertad de elección. De hecho, en un espacio como la web, caracterizado por una sobrecarga de información, se puede estructurar el flujo de datos según criterios de selección no siempre percibidos por el usuario.

Debemos recordar que la investigación científica y las innovaciones tecnológicas no están desencarnadas de la realidad ni son «neutrales», [4] sino que están sujetas a las influencias culturales. En cuanto actividades plenamente humanas, las direcciones que toman reflejan decisiones condicionadas por los valores personales, sociales y culturales de cada época. Lo mismo se diga de los resultados que consiguen. Estas, precisamente en cuanto fruto de planteamientos específicamente humanos hacia el mundo circunstante, tienen siempre una dimensión ética, estrictamente ligada a las decisiones de quien proyecta la experimentación y enfoca la producción hacia objetivos particulares.

Esto vale también para las formas de inteligencia artificial, para la cual, hasta hoy, no existe una definición unívoca en el mundo de la ciencia y de la tecnología. El término mismo, que ha entrado ya en el lenguaje común, abraza una variedad de ciencias, teorías y técnicas dirigidas a hacer que las máquinas reproduzcan o imiten, en su funcionamiento, las capacidades cognitivas de los seres humanos. Hablar en plural de “formas de inteligencia” puede ayudar a subrayar sobre todo la brecha infranqueable que existe entre estos sistemas y la persona humana, por más sorprendentes y potentes que sean. Estos son, a fin de cuentas, “fragmentarios”, en el sentido de que sólo pueden imitar o reproducir algunas funciones de la inteligencia humana. El uso del plural pone en evidencia además que estos dispositivos, muy distintos entre sí, se deben considerar siempre como “sistemas socio-técnicos”. En efecto, su impacto, independientemente de la tecnología de base, no sólo depende del proyecto, sino también de los objetivos y de los intereses del que los posee y del que los desarrolla, así como de las situaciones en las que se usan.

La inteligencia artificial, por tanto, debe ser entendida como una galaxia de realidades distintas y no podemos presumir a priori que su desarrollo aporte una contribución benéfica al futuro de la humanidad y a la paz entre los pueblos. Tal resultado positivo sólo será posible si somos capaces de actuar de forma responsable y de respetar los valores humanos fundamentales como «la inclusión, la transparencia, la seguridad, la equidad, la privacidad y la responsabilidad». [5]

No basta ni siquiera suponer, de parte de quien proyecta algoritmos y tecnologías digitales, un compromiso de actuar de forma ética y responsable. Es preciso reforzar o, si es necesario, instituir organismos encargados de examinar las cuestiones éticas emergentes y de tutelar los derechos de los que utilizan formas de inteligencia artificial o reciben su influencia. [6]

La inmensa expansión de la tecnología, por consiguiente, debe ser acompañada, para su desarrollo, por una adecuada formación en la responsabilidad. La libertad y la convivencia pacífica están amenazadas cuando los seres humanos ceden a la tentación del egoísmo, del interés personal, del afán de lucro y de la sed de poder. Tenemos por ello el deber de ensanchar la mirada y de orientar la búsqueda técnico-científica hacia la consecución de la paz y del bien común, al servicio del desarrollo integral del hombre y de la comunidad. [7]

La dignidad intrínseca de cada persona y la fraternidad que nos vincula como miembros de una única familia humana, deben estar en la base del desarrollo de las nuevas tecnologías y servir como criterios indiscutibles para valorarlas antes de su uso, de modo que el progreso digital pueda realizarse en el respeto de la justicia y contribuir a la causa de la paz. Los desarrollos tecnológicos que no llevan a una mejora de la calidad de vida de toda la humanidad, sino que, por el contrario, agravan las desigualdades y los confictos, no podrán ser considerados un verdadero progreso. [8]

La inteligencia artificial será cada vez más importante. Los desafíos que plantea no son sólo técnicos, sino también antropológicos, educativos, sociales y políticos. Promete, por ejemplo, un ahorro de esfuerzos, una producción más eficiente, transportes más ágiles y mercados más dinámicos, además de una revolución en los procesos de recopilación, organización y verificación de los datos. Es necesario ser conscientes de las rápidas transformaciones que están ocurriendo y gestionarlas de modo que se puedan salvaguardar los derechos humanos fundamentales, respetando las instituciones y las leyes que promueven el desarrollo humano integral. La inteligencia artificial debería estar al servicio de un mejor potencial humano y de nuestras más altas aspiraciones, no en competencia con ellos.

3. La tecnología del futuro: máquinas que aprenden solas

En sus múltiples formas la inteligencia artificial, basada en técnicas de aprendizaje automático (machine learning), aunque se encuentre todavía en una fase pionera, ya está introduciendo cambios notables en el tejido de las sociedades, ejercitando una profunda influencia en las culturas, en los comportamientos sociales y en la construcción de la paz.

Desarrollos como el machine learning o como el aprendizaje profundo (deep learning) plantean cuestiones que trascienden los ámbitos de la tecnología y de la ingeniería y tienen que ver con una comprensión estrictamente conectada con el significado de la vida humana, los procesos básicos del conocimiento y la capacidad de la mente de alcanzar la verdad.

La habilidad de algunos dispositivos para producir textos sintáctica y semánticamente coherentes, por ejemplo, no es garantía de confiabilidad. Se dice que pueden “alucinar”, es decir, generar afirmaciones que a primera vista parecen plausibles, pero que en realidad son infundadas o delatan prejuicios. Esto crea un serio problema cuando la inteligencia artificial se emplea en campañas de desinformación que difunden noticias falsas y llevan a una creciente desconfianza hacia los medios de comunicación. La confidencialidad, la posesión de datos y la propiedad intelectual son otros ámbitos en los que las tecnologías en cuestión plantean graves riesgos, a los que se añaden ulteriores consecuencias negativas unidas a su uso impropio, como la discriminación, la interferencia en los procesos electorales, la implantación de una sociedad que vigila y controla a las personas, la exclusión digital y la intensificación de un individualismo cada vez más desvinculado de la colectividad. Todos estos factores corren el riesgo de alimentar los conflictos y de obstaculizar la paz.

4. El sentido del límite en el paradigma tecnocrático

Nuestro mundo es demasiado vasto, variado y complejo para poder ser completamente conocido y clasificado. La mente humana nunca podrá agotar su riqueza, ni siquiera con la ayuda de los algoritmos más avanzados. Estos, de hecho, no ofrecen previsiones garantizadas del futuro, sino sólo aproximaciones estadísticas. No todo puede ser pronosticado, no todo puede ser calculado; al final «la realidad es superior a la idea» [9] y, por más prodigiosa que pueda ser nuestra capacidad de cálculo, habrá siempre un residuo inaccesible que escapa a cualquier intento de cuantificación.

Además, la gran cantidad de datos analizados por las inteligencias artificiales no es de por sí garantía de imparcialidad. Cuando los algoritmos extrapolan informaciones, siempre corren el riesgo de distorsionarlas, reproduciendo las injusticias y los prejuicios de los ambientes en los que se originan. Cuanto más veloces y complejos se vuelven, más difícil es comprender porqué han generado un determinado resultado.

Las máquinas inteligentes pueden efectuar las tareas que se les asignan cada vez con mayor eficiencia, pero el fin y el significado de sus operaciones continuarán siendo determinadas o habilitadas por seres humanos que tienen un propio universo de valores. El riesgo es que los criterios que están en la base de ciertas decisiones se vuelvan menos transparentes, que la responsabilidad decisional se oculte y que los productores puedan eludir la obligación de actuar por el bien de la comunidad. En cierto sentido, esto es favorecido por el sistema tecnocrático, que alía la economía con la tecnología y privilegia el criterio de la eficiencia, tendiendo a ignorar todo aquello que no está vinculado con sus intereses inmediatos. [10]

Esto debe hacernos reflexionar sobre el “sentido del límite”, un aspecto a menudo descuidado en la mentalidad actual, tecnocrática y eficientista, y sin embargo decisivo para el desarrollo personal y social. El ser humano, en efecto, mortal por definición, pensando en sobrepasar todo límite gracias a la técnica, corre el riesgo, en la obsesión de querer controlarlo todo, de perder el control de sí mismo, y en la búsqueda de una libertad absoluta, de caer en la espiral de una dictadura tecnológica. Reconocer y aceptar el propio límite de criatura es para el hombre condición indispensable para conseguir o, mejor, para acoger la plenitud como un don. En cambio, en el contexto ideológico de un paradigma tecnocrático, animado por una prometeica presunción de autosuficiencia, las desigualdades podrían crecer de forma desmesurada, y el conocimiento y la riqueza acumularse en las manos de unos pocos, con graves riesgos para las sociedades democráticas y la coexistencia pacífica. [11]

5. Temas candentes para la ética

En el futuro, la fiabilidad de quien pide un préstamo, la idoneidad de un individuo para un trabajo, la posibilidad de reincidencia de un condenado o el derecho a recibir asilo político o asistencia social podrían ser determinados por sistemas de inteligencia artificial. La falta de niveles diversificados de mediación que estos sistemas introducen está particularmente expuesta a formas de prejuicio y discriminación. Los errores sistémicos pueden multiplicarse fácilmente, produciendo no sólo injusticias en casos concretos sino también, por efecto dominó, auténticas formas de desigualdad social.

Además, con frecuencia las formas de inteligencia artificial parecen capaces de influenciar las decisiones de los individuos por medio de opciones predeterminadas asociadas a estímulos y persuasiones, o mediante sistemas de regulación de las elecciones personales basados en la organización de la información. Estas formas de manipulación o de control social requieren una atención y una supervisión precisas, e implican una clara responsabilidad legal por parte de los productores, de quienes las usan y de las autoridades gubernamentales.

La dependencia de procesos automáticos que clasifican a los individuos, por ejemplo, por medio del uso generalizado de la vigilancia o la adopción de sistemas de crédito social, también podría tener repercusiones profundas en el entramado social, estableciendo categorizaciones impropias entre los ciudadanos. Y estos procesos artificiales de clasificación podrían llevar incluso a conflictos de poder, no sólo en lo que respecta a destinatarios virtuales, sino a personas de carne y hueso. El respeto fundamental por la dignidad humana postula rechazar que la singularidad de la persona sea identificada con un conjunto de datos. No debemos permitir que los algoritmos determinen el modo en el que entendemos los derechos humanos, que dejen a un lado los valores esenciales de la compasión, la misericordia y el perdón o que eliminen la posibilidad de que un individuo cambie y deje atrás el pasado.

En este contexto, no podemos dejar de considerar el impacto de las nuevas tecnologías en el ámbito laboral. Trabajos que en un tiempo eran competencia exclusiva de la mano de obra humana son rápidamente absorbidos por las aplicaciones industriales de la inteligencia artificial. También en este caso se corre el riesgo sustancial de un beneficio desproporcionado para unos pocos a costa del empobrecimiento de muchos. El respeto de la dignidad de los trabajadores y la importancia de la ocupación para el bienestar económico de las personas, las familias y las sociedades, la seguridad de los empleos y la equidad de los salarios deberían constituir una gran prioridad para la comunidad internacional, a medida que estas formas de tecnología se van introduciendo cada vez más en los lugares de trabajo.

6.¿Transformaremos las espadas en arados?

En estos días, mirando el mundo que nos rodea, no podemos eludir las graves cuestiones éticas vinculadas al sector de los armamentos. La posibilidad de conducir operaciones militares por medio de sistemas de control remoto ha llevado a una percepción menor de la devastación que estos han causado y de la responsabilidad en su uso, contribuyendo a un acercamiento aún más frío y distante a la inmensa tragedia de la guerra. La búsqueda de las tecnologías emergentes en el sector de los denominados “sistemas de armas autónomos letales”, incluido el uso bélico de la inteligencia artificial, es un gran motivo de preocupación ética. Los sistemas de armas autónomos no podrán ser nunca sujetos moralmente responsables. La exclusiva capacidad humana de juicio moral y de decisión ética es más que un complejo conjunto de algoritmos, y dicha capacidad no puede reducirse a la programación de una máquina que, aun siendo “inteligente”, no deja de ser siempre una máquina. Por este motivo, es imperioso garantizar una supervisión humana adecuada, significativa y coherente de los sistemas de armas.

Tampoco podemos ignorar la posibilidad de que armas sofisticadas terminen en las manos equivocadas facilitando, por ejemplo, ataques terroristas o acciones dirigidas a desestabilizar instituciones de gobierno legítimas. En resumen, realmente lo último que el mundo necesita es que las nuevas tecnologías contribuyan al injusto desarrollo del mercado y del comercio de las armas, promoviendo la locura de la guerra. Si lo hace así, no sólo la inteligencia, sino el mismo corazón del hombre correrá el riesgo de volverse cada vez más “artificial”. Las aplicaciones técnicas más avanzadas no deben usarse para facilitar la resolución violenta de los conflictos, sino para pavimentar los caminos de la paz.

En una óptica más positiva, si la inteligencia artificial fuese utilizada para promover el desarrollo humano integral, podría introducir importantes innovaciones en la agricultura, la educación y la cultura, un mejoramiento del nivel de vida de enteras naciones y pueblos, el crecimiento de la fraternidad humana y de la amistad social. En definitiva, el modo en que la usamos para incluir a los últimos, es decir, a los hermanos y las hermanas más débiles y necesitados, es la medida que revela nuestra humanidad.

Una mirada humana y el deseo de un futuro mejor para nuestro mundo llevan a la necesidad de un diálogo interdisciplinar destinado a un desarrollo ético de los algoritmos — la algorética—, en el que los valores orienten los itinerarios de las nuevas tecnologías. [12]Las cuestiones éticas deberían ser tenidas en cuenta desde el inicio de la investigación, así como en las fases de experimentación, planificación, distribución y comercialización. Este es el enfoque de la ética de la planificación, en el que las instituciones educativas y los responsables del proceso decisional tienen un rol esencial que desempeñar.

7. Desafíos para la educación

El desarrollo de una tecnología que respete y esté al servicio de la dignidad humana tiene claras implicaciones para las instituciones educativas y para el mundo de la cultura. Al multiplicar las posibilidades de comunicación, las tecnologías digitales nos han permitido nuevas formas de encuentro. Sin embargo, continúa siendo necesaria una reflexión permanente sobre el tipo de relaciones al que nos está llevando. Los jóvenes están creciendo en ambientes culturales impregnados de la tecnología y esto no puede dejar de cuestionar los métodos de enseñanza y formación.

La educación en el uso de formas de inteligencia artificial debería centrarse sobre todo en promover el pensamiento crítico. Es necesario que los usuarios de todas las edades, pero sobre todo los jóvenes, desarrollen una capacidad de discernimiento en el uso de datos y de contenidos obtenidos en la web o producidos por sistemas de inteligencia artificial. Las escuelas, las universidades y las sociedades científicas están llamadas a ayudar a los estudiantes y a los profesionales a hacer propios los aspectos sociales y éticos del desarrollo y el uso de la tecnología.

La formación en el uso de nuevos instrumentos de comunicación debería considerar no sólo la desinformación, las falsas noticias, sino también el inquietante aumento de «miedos ancestrales que […] han sabido esconderse y potenciarse detrás de nuevas tecnologías». [13]Lamentablemente, una vez más nos encontramos teniendo que combatir “la tentación de hacer una cultura de muros, de levantar muros para impedir el encuentro con otras culturas, con otra gente” [14]y el desarrollo de una coexistencia pacífica y fraterna.

8. Desafíos para el desarrollo del derecho internacional

El alcance global de la inteligencia artificial hace evidente que, junto a la responsabilidad de los estados soberanos de disciplinar internamente su uso, las organizaciones internacionales pueden desempeñar un rol decisivo en la consecución de acuerdos multilaterales y en la coordinación de su aplicación y actuación. [15]A este propósito, exhorto a la comunidad de las naciones a trabajar unida para adoptar un tratado internacional vinculante, que regule el desarrollo y el uso de la inteligencia artificial en sus múltiples formas. Naturalmente, el objetivo de la reglamentación no debería ser sólo la prevención de las malas prácticas, sino también alentar las mejores prácticas, estimulando planteamientos nuevos y creativos y facilitando iniciativas personales y colectivas. [16]

En definitiva, en la búsqueda de modelos normativos que puedan proporcionar una guía ética a quienes desarrollan tecnologías digitales, es indispensable identificar los valores humanos que deberían estar en la base del compromiso de las sociedades para formular, adoptar y aplicar los marcos legislativos necesarios. El trabajo de redacción de las orientaciones éticas para la producción de formas de inteligencia artificial no puede prescindir de la consideración de cuestiones más profundas, relacionadas con el significado de la existencia humana, la tutela de los derechos humanos fundamentales y la búsqueda de la justicia y de la paz. Este proceso de discernimiento ético y jurídico puede revelarse como una valiosa ocasión para una reflexión compartida sobre el rol que la tecnología debería tener en nuestra vida personal y comunitaria y sobre cómo su uso podría contribuir a la creación de un mundo más justo y humano. Por este motivo, en los debates sobre la reglamentación de la inteligencia artificial, se debería tener en cuenta la voz de todas las partes interesadas, incluidos los pobres, los marginados y otros más que a menudo quedan sin ser escuchados en los procesos decisionales globales.

* * * * *

Espero que esta reflexión anime a hacer que los progresos en el desarrollo de formas de inteligencia artificial contribuyan, en última instancia, a la causa de la fraternidad humana y de la paz. No es responsabilidad de unos pocos, sino de toda la familia humana. La paz, en efecto, es el fruto de relaciones que reconocen y acogen al otro en su dignidad inalienable, y de cooperación y esfuerzo en la búsqueda del desarrollo integral de todas las personas y de todos los pueblos.

Mi oración al comienzo del nuevo año es que el rápido desarrollo de formas de inteligencia artificial no aumente las ya numerosas desigualdades e injusticias presentes en el mundo, sino que ayude a poner fin a las guerras y los conflictos, y a aliviar tantas formas de sufrimiento que afectan a la familia humana. Que los fieles cristianos, los creyentes de distintas religiones y los hombres y mujeres de buena voluntad puedan colaborar en armonía para aprovechar las oportunidades y afrontar los desafíos que plantea la revolución digital, y dejar a las generaciones futuras un mundo más solidario, justo y pacífico.

Vaticano, 8 de diciembre de 2023

FRANCISCO

[1] N. 33.

[2] Ibíd., n. 57.

[3] Cf. Carta enc. Laudato si’ (24 mayo 2015), 104.

[4] Cf. ibíd., 114.

[5] Discurso a los participantes en el encuentro “Minerva Dialogues” (27 marzo 2023).

[6] Cf. ibíd.

[7] Cf. Mensaje al Presidente Ejecutivo del “World Economic Forum” en Davos-Klosters (12 enero 2018).

[8] Cf. Carta enc. Laudato si’, 194; Discurso a los participantes en un Seminario sobre “El bien común en la era digital” (27 septiembre 2019).

[9] Exhort. ap. Evangelii gaudium (24 noviembre 2013), 233.

[10] Cf. Carta. enc. Laudato si’, 54.

[11] Cf. Discurso a los participantes en la Plenaria de la Pontificia Academia para la Vida (28 febrero 2020).

[12] Cf. ibíd.

[13] Carta enc. Fratelli tutti (3 octubre 2020), 27.

[14] Cf. ibíd.

[15] Cf. ibíd., 170-175.

[16] Cf. Carta enc. Laudato si’, 177.

Presentación del Mensaje

Descarga toda la información y las infografías

La entrada Inteligencia artificial y paz se publicó primero en Comisión Episcopal para la Pastoral Social y la promoción humana.