Ni la IA ni la tecnología ni el Estado ni la nación son salvadores: así avisa «Magnifica Humanitas»

Tres cardenales y tres expertos laicos acompañaron al Papa León XIV en la Sala Nueva del Sínodo, en el Vaticano, para presentar su encíclica Magnifica humanitas. 

Es la primera vez en tiempos modernos que un Papa acude en persona a presentar una encíclica, en vez de delegarlo en un representante de prensa o en varios eclesiásticos, como hacían sus predecesores.

No se trata de un documento sobre IA, sino de un análisis de lo que la IA significa para la humanidad y el mundo «en una época marcada por transformaciones rápidas, profundas y responsables», destacó el cardenal secretario de Estado Pietro Parolin. A su lado, los cardenales Michael Czerny, prefecto del Dicasterio para el Servicio del Desarrollo Humano Integral, y Víctor Manuel Fernández, prefecto del Dicasterio para la Doctrina de la Fe.

Un vídeo-repaso a la Historia desde 1891

Casi al principio del evento, se proyectó un vídeo breve de música e imágenes rápidas que buscaba repasar la Historia desde León XIII y su encíclica Rerum Novarum, de 1891, sobre industrialización y trabajo. Imágenes en blanco y negro de películas antiguas, las guerras mundiales, las bombas atómicas, la guerra fría, el viaje a la Luna, la caída del Muro de Berlín, la llegada de Internet, el atentado de las Torres Gemelas, muchedumbres con móvil que graban a un nuevo Papa, León XIV...

Ante los eventos de la Historia, la Iglesia propone los principios de la Doctrina Social, que el video enumeró: solidaridad, bien común, destino universal de los bienes, subsidiariedad y justicia social.

El video finalizaba con unas ideas fuertes: lo que no debe perderse es la atención, el corazón humano, la protección de los menores, el romper las cadenas de la esclavitud digital... "En la peor oscuridad, el Señor alza hombres que se niegan a resignarse y rendirse", señalaba el video, citando la encíclica.

Cardenal Fernández: una humanidad magnífica, aunque esté herida

El cardenal Fernández detalló que la encíclica habla de "el tiempo de la IA", pero no trata sólo sobre la IA, sino sobre muchos temas sociales como la guerra, la libertad... De hecho, Fernández mencionó varias veces temas ligados al transhumanismo (el transhumanismo y el posthumanismo se mencionan media docena de veces cada uno en la encíclica, como ideologías que buscan una salvación cuasi-trascendente mediante la tecnología).

El cardenal se remitió al título: la humanidad es magnífica, pero al mismo tiempo es capaz de una terrible maldad, por ejemplo, "cuando asesina miles de niños inocentes en guerras, contrarias incluso al derecho internacional". Pero todo ser humano tiene una dignidad infinita y nunca pierde la sublime capacidad de amar que Dios le donó, añadió.

La encíclica enumera ejemplos de esa humanidad magnífica: la cultura y el arte pueden guardar la chispa de bondad y belleza, y producir (enumera desde la encíclica) películas como La Lista de Schindler, instituciones como la Cruz Roja, la ONU, los convenios sobre refugiados, el movimiento de Derechos Civiles en EEUU (con Martin Luther King), el fin del apartheid en Sudáfrica con Nelson Mandela, mujeres como la pakistaní Benazir Butto, Teresa de Calcuta, Marie Curie, y figuras eclesiales ("mártires de la fraternidad y la justicia") como el padre Kolbe, Óscar Romero, el obispo Angelelli, el cardenal Van Thuan... y grandes figuras de la vida cotidiana, padres y enfermeros que cuidan. "Esta humanidad magnífica, aunque herida, no debe ser sustituida", proclamó.

Porque hay ideólogos del posthumanismo que proponen la sustitución de la humanidad. Otros creen que "dispositivos puros y sofisticados harán que nuestra vida sea un paraíso". Pero cabe sospechar que tras una cierta alegría inicial enseguida llegue el vacío del sinsentido. Hay posthumanistas que creen que la humanidad debe reemplazarse mediante un salto en la evolución de la especie que se logrará con tecnología. Pero los creyentes, dijo el cardenal, saben que "eso no llenará el espacio infinito de nuestros corazones".

Son ideologías con "una falsa mística, lo contrario a la nueva vida" que esperan los cristianos, que se vive en la fe, esperanza y caridad. Esa ideología cambia la fe por confianza en la tecnología; la esperanza, por una expectativa superficial de nuevos productos, y el amor por apego a las cosas y el deseo de tener más.

Estas ideologías hablan de acabar con muchos límites del hombre, pero "hay valor y fecundidad en la experiencia del límite, un límite no siempre es un defecto a corregir, sino un espacio para la relación humana; el ser humano a menudo florece a través de la limitación; ahí está la compasión, la generosidad que sorprende incluso en la oscuridad y fracaso, lo espiritual y la adoración a Dios. En la experiencia del límite crecemos como personas. Para eliminar por completo todo dolor habría que apagar también el amor, porque los que aman, sufren", dijo el cardenal.

"Dios es quien ofrece un proceso de elevación y transformación que supera nuestras capacidades limitadas, por la gracia del Espíritu Santo, entrar en la vida inextinguible, ser nuevas criaturas", añadió. "Lo que Dios hizo en Francisco de Asís, por ejemplo, es mucho más de lo que la tecnología puede hacer en nosotros". Así, tenemos que elegir entre una humanidad insensible y orgullosa o una "magnífica humanidad" que se preocupa por los demás, sufre con otros y se deja guiar por Dios.

Parolin: dialogar para prevenir nuevas deshumanizaciones

El cardenal Pietro Parolin, dijo (y el Papa lo repitió al final) que «la Iglesia está llamada una vez más a discernir las novedades de la historia». A finales del siglo XIX, en época de León XIII, "no siempre era posible para la Iglesia entablar un diálogo directo con los principales actores económicos, políticos e industriales que guiaban la transformación social". Hoy, en cambio, "este diálogo ya está en marcha e involucra a instituciones, gobiernos, universidades, empresas y centros de investigación". La Iglesia, "con confianza y libertad", cree que vale la pena "escuchar a los implicados", para proteger mejor a la humanidad.

Parolin avisó de que la "asimetría entre poder técnico y sabiduría moral" (la técnica crece mucho, pero la sabiduría poco) es quizás el desafío más profundo que plantea Magnifica Humanitas. La Iglesia debe vigilar contra "nuevas formas de deshumanización".

Czerny: ingenio, conciencia, cuidado

El cardenal Czerny, prefecto del Dicasterio para el Servicio del Desarrollo Humano Integral, se centró en tres palabras clave: «Ingenio, conciencia y cuidado». «Ingenio» porque la IA «es uno de los grandes logros del ingenio humano», y merece gratitud pero también discernimiento. Puede "concentrar el poder, exacerbar las desigualdades y dejar atrás a quienes ya están marginados".

«Conciencia» se refiere a escuchar la voz de Dios y reconocer el bien, escuchar la llamada de la verdad. «Cuidado» se refiere al cuidado de nuestra casa común, sobre la que la IA a veces tiene un impacto violento (Czerny relaciona la encíclica con sus precedentes Laudato Si' y Laudate Deum, del Papa Francisco).

También habló de la importancia de educar en nuestra época a "personas capaces de usar herramientas poderosas manteniendo su libertad interior; de acceder a grandes cantidades de información conservando el juicio crítico; y de vivir en contextos digitales sin perder la alegría de la escucha genuina, los encuentros y las relaciones interpersonales".

Anna Rowlands: proteger la libertad de los hombres

En otras épocas, la Iglesia se esforzó por proteger la libertad de los hombres frente al Estado o al mercado, por mostrar que el hombre es valioso . Ahora, hay que protegerlo del algoritmo, de otras formas de quitarle valía.

Así insistió Anna Rowlands, teóloga británica, profesora de Doctrina Social en la University of Durham, y miembro del Dicasterio de Desarrollo Humano, que participa como teóloga en el Sínodo de la Sinodalidad. Laudato Si ya advertía contra el paradigma tecnocrático. Hoy el Papa León pide salvaguardar lo humano.

"Otros Papas avisaron de que no nos salvará el Estado Nación ni las fuerzas de la historia; hoy León avisa de que no nos salvarán la IA ni sus automatismos", detalló.

"Algunos se esfuerzan en convertirse en sus propios dioses", advirtió la teóloga (refiriéndose a ideólogos transhumanistas, pero quizá no sólo a ellos). Dijo que la libertad del hombre es un don. "Nuestra libertad incluye trabajo, cuidado, contemplación, sufrimiento y amistad, seres humanos libres iguales en dignidad, creados para la relación", enumeró. Cosas que algunos quieren eliminar... y, con ellas, la humanidad.

La Iglesia habla con razón, su misión es revelar el rostro de Dios en la Historia, fomentar el verdadero bien y avanzar hacia la unidad, en diálogo con personas de todas las creencias y vocaciones, detalló Rowlands.

Cuando Dios en Génesis encarga al hombre cultivar la Tierra, le da la libertad de usar tecnologías. Pero los poderes de innovación que antes estaban en los Estados hoy están en individuos privados muy ricos, poco transparentes. La encíclica pide ampliar la libertad humana, no erosionarla. Para empezar, hay que ser libres para usar, o no, estas tecnologías.

Rowland destaca que la encíclica denuncia "falsos realismos" que "automatizan la realidad, reducen las personas a datos, nos encierran en identidades de amigo-enemigo".

La encíclica explica que el deseo de dominación puede ser alabado por el mundo, pero nunca será una virtud cristiana. Llamados a una civilización del amor, los cristianos y muchos otros han de centrarse en la justicia, "con sano realismo", adoptar la perspectiva de las víctimas.

También han de orar con el Magníficat de María, "clamor encarnado del Nuevo Testamento, el canto de una mujer rebosante de nueva vida que proclama las condiciones del bien común: que Dios reina, que los hambrientos son alimentados, los humildes son elevados". Y finalizó recordando que frente a muchos falsos salvadores "el único Salvador es el Dios Trinitario en el confiamos todos nosotros", como insiste la encíclica.

Chris Olah, de Anthropic: "decir verdades difíciles, ser críticos, reflexivos"

También habló Christopher Olah, co-fundador de Anthropic, la creadora de la IA Claude, quien lleva 10 años investigando seguridad en la IA. Agradeció que la Iglesia y el Papa hablen de estos temas. "Se necesitan personas fuera de esos incentivos [de la industria, o del poder político o económico] que presten atención y estén dispuestas de decir verdades difíciles, ser críticos, reflexivos: con ese tira y afloja se logran grandes cosas", dijo. (Aquí la ponencia de Olah, más detallada, y su contexto).

Leocadie Lushombo: criterios éticos en las nuevas tecnologías

Leocadie Lushombo, teresiana, profesora en la Universidad Jesuita de Santa Clara, California, habló desde la perspectiva de los pueblos de África, Asia y Latinoamérica y la responsabilidad moral.

Advirtió de un riesgo: delegar el juicio moral en herramientas artificiales implica hacer análisis muy parciales, no amplios.

Además, muchas plataformas digitales "explotan las fragilidades de los usuarios y debilitan su libertad". 

La libertad interior, dijo, requiere silencio, lectura, estudio profundo, ritmos adecuados...

Para aprender, la IA también aporta riesgos. Citó al filósofo jesuita Bernard Lonergan (que no se cita en la encíclica): el conocimiento es algo relacional, requiere vínculos de confianza, intercambios honestos con los demás, confianza mutua, apertura al diálogo... esto escasea en la IA.

"La automatización del aprendizaje, acudir a la IA, en vez de aprender unos de otros, debilita a las comunidades, porque aprendemos mejor cuando somos amados", dijo. Varias culturas insisten en esa idea de aprender en comunidad (en África se llama la filosofía ubuntu, "soy humano porque pertenezco, participo y comparto").

Ahora, estas culturas que valoran el aprender desde la relación y el diálogo humano podrían quedar erosionadas, ser más vulnerables al "colonialismo extractivo", que "se apropia de los datos y transforma las vidas personales en informaciones explotables. Sí, la IA puede ser muy colonial", dijo Lushombo.

La velocidad de la IA, advirtió, apaga el deseo de hacer preguntas. Conocer requiere (de nuevo remitiéndose a Lonergan) "experimentar, comprender, juzgar y decidir". Y Lushombo avisó, citando la encíclica: "en el mundo de la IA nada es inmaterial o mágico". Es decir, hay un coste detrás, ecológico o humano, un trabajo.

Pero también es posible potenciar beneficios humanos. Por ejemplo, dijo, "se puede usar esta tecnología para dar voz a las personas en el Sur Global".

La última intervención para presentar el documento fue la del propio Pontífice, que habló en inglés de sus motivaciones e impulsos al escribirla y dijo que "la IA debe ser desarmada" (aquí lo publicó ReL).