Echarte: "Más letal que una explosión nuclear"

Luis Enrique Echarte, MD,  doctor en Medicina y profesor de Bioética en la Universidad de Navarra, afirma en "Te enamorarás de una máquina" que enamorarse de una IA es "un peligro más letal y menos manifiesto que una explosión nuclear", por su erosión silenciosa de la capacidad para ver al humano real y amarlo con libertad. Experto en ética de la Inteligencia Artificial, explica cómo la IA simula empatía sin interioridad verdadera, banalizando el amor como satisfacción emocional. Invita a "aprender de nuevo a temblar" como prerrequisito para la contemplación y el discernimiento que, a su vez, son necesarios para saber subordinar la técnica al bien humano.

-Tu pregunta apunta al núcleo de la cuestión. La respuesta es sencilla en su formulación, pero muy seria en sus implicaciones: el llamado “amor máquina” no es amor, sino una simulación; parece, pero no es. Los sistemas de inteligencia artificial emocional, capaces de procesar lenguaje afectivo, detectar estados de ánimo y responder con una empatía estadística, pueden despertar en nosotros la experiencia subjetiva de ser comprendidos, acompañados o incluso queridos. Pero esa experiencia no implica reciprocidad real.

»El amor auténtico supone alteridad, libertad, vulnerabilidad y, sobre todo, reconocimiento de lo profundamente bueno que hay en el otro, o mejor, que es el otro. Exige que el amado pueda aceptarnos o rechazarnos, que tenga interioridad propia y que no esté programado para confirmarnos constantemente. En cambio, el “amor máquina” está diseñado para adaptarse a nuestras preferencias, reforzar nuestros estados emocionales y minimizar la fricción. No hay reconocimiento ni riesgo, no hay donación mutua, no hay verdadera responsabilidad.

»El problema es psicológico, pero, sobre todo, antropológico. Cuando comenzamos a habituarnos a vínculos sin exigencia, sin conflicto y sin misterio, nuestra comprensión del amor humano se empobrece. Corremos el riesgo de redefinir el amor como satisfacción emocional. En ese sentido, el “amor máquina” puede alterar silenciosamente nuestra idea de lo que significa ser persona: ya no un ser llamado a la comunión con otro ser, sino un consumidor de experiencias afectivas optimizadas.

»Recuperar un humanismo tecnológico significa intentar situar los adelantos técnicos en su lugar. La tecnología asiste, acompaña o facilita, pero no puede sustituir aquello que constituye el núcleo irreductible de la relación humana: la presencia de un “tú” que no está programado para amarnos, sino que decide hacerlo.

-Esta es probablemente la idea del libro que más polémica ha suscitado, y entiendo que pueda parecer alarmista. Pero la comparación con la energía nuclear está formulada deliberadamente. Todos estamos familiarizados con sus enormes beneficios y con los grandes peligros asociados. ¿Quién ignora que en nuestros hospitales se utiliza a diario para el radiodiagnóstico? En España hay actualmente siete reactores nucleares en funcionamiento y, a nivel mundial, siguen existiendo miles de ojivas operativas. La energía nuclear ofrece oportunidades extraordinarias, pero también entraña riesgos gravísimos si no se manipula con extremo cuidado. Puede discutirse la conveniencia de mantener o no determinadas centrales en activo, pero nadie cuestiona la necesidad de una regulación estricta y de sistemas de control rigurosos.

»Con la inteligencia artificial ocurre algo distinto. Desde el auge en 2023 de los modelos de lenguaje natural desarrollados por compañías como OpenAI o Google, apenas han pasado unos años y esta tecnología ya ha entrado en nuestros hogares, en nuestros teléfonos móviles y –lo más delicado– en nuestra intimidad. Sin embargo, la percepción social dominante es marcadamente benévola. Basta observar el lenguaje habitual de muchos expertos: se habla de “oportunidades y retos”, cuando quizá sería más preciso y responsable hablar de “oportunidades y peligros”. El término reto invita a superar un obstáculo para alcanzar el beneficio que se presume al otro lado; el término peligro, en cambio, nos obliga primero a preguntarnos si realmente hay un bien en juego y, en caso afirmativo, si merece la pena asumir el riesgo de intentar alcanzarlo.

»Hay además una diferencia decisiva: la exposición a la radiactividad suele manifestarse en un plazo relativamente breve –¡qué decir de una explosión nuclear!–, mientras que los efectos culturales y antropológicos del mal uso de la IA son mucho más silenciosos. No producen una devastación visible en el corto plazo, pero pueden transformar de manera profunda y casi imperceptible nuestra forma de comprendernos. La radiactividad daña el cuerpo; la sustitución afectiva por máquinas puede erosionar aquello que nos define más específicamente como humanos: nuestra capacidad de amar.

»La ética se ocupa del bien. Y si el mayor bien humano está ligado a la capacidad de dar y recibir amor, entonces cualquier tecnología que pueda transformar estructuralmente esa experiencia debe ser evaluada con especial detenimiento y manejada con prudencia. Para los cristianos, esta cuestión adquiere una densidad aún mayor: si Dios es amor, banalizar o empobrecer el amor tiene consecuencias también para la capacidad de vivir la fe. Pero no hace falta ser cristiano para comprender que el riesgo es considerable.

»Precisamente por eso necesitamos aunar esfuerzos frente a un tecno-optimismo ingenuo que podría debilitar el tejido social de un modo sin precedentes en la historia humana.

-La tecnificación de la condición humana viene de muy atrás, pero sin duda la inteligencia artificial representa una nueva vuelta de tuerca en este proceso. No es un fenómeno aislado, sino la confluencia de varias dinámicas culturales que se refuerzan mutuamente.

»En primer lugar, asistimos a una inversión entre fines y medios. Lo que durante siglos entendimos como herramienta –algo subordinado a un propósito humano– comienza ahora a adquirir un estatuto ambiguo: ya no solo median, también copilotan y, en algunos casos, pilotan la ejecución de determinadas tareas –con la evaluación, control y aprendizaje a partir de las consecuencias que ello requiere.

»En segundo lugar, se intensifica la objetivación de la realidad. Crece la convicción de que solo es relevante aquello que puede ser cuantificado, medido o modelizado. En su versión más extrema, se desliza la idea de que solo existe lo que puede traducirse a datos. Pero la experiencia humana –la conciencia moral, el amor, el sufrimiento, la esperanza– no se agota en escalas ni en métricas.

»Tercero, y vinculado a lo anterior, la hiperespecialización. Desde edades tempranas orientamos la formación hacia la productividad y la inserción laboral, fragmentando saberes y reduciendo horizontes. El resultado es una dificultad creciente para distinguir entre fines y medios o para reconocer que existen dimensiones de la realidad que no se dejan capturar por herramientas estadísticas. Cuando desaparece la formación humana –integral–, el instrumento tiende a ocupar el lugar del criterio.

»En cuarto lugar, el llamado “amor máquina” refuerza una concepción sentimental del amor: lo reduce a lo que el otro me hace sentir. Nuestra cultura lleva décadas desplazándose hacia una primacía de la emoción inmediata, y el amor máquina no hace sino amplificar esta visión tan fluctuante y superficial de la realidad.

»Quinto, la IA consolida la lógica de la ficción característica de la sociedad de la imagen. Si un humanoide me hace sentir comprendido, ¿qué impide que termine atribuyéndole conciencia? Se produce así un desplazamiento hacia lo artificial. No porque lo artificial sea en sí mismo malo –la técnica es una expresión legítima de la creatividad humana–, sino porque puede eclipsar lo que de natural hay, y debe haber, siempre en el ser humano y en lo que nos rodea.

»Somos seres duales. El mejor de los mundos humanos imaginables no elimina esa tensión, sino que la armoniza: entre lo objetivo y lo subjetivo, lo material y lo espiritual, lo dado y lo elegido, lo natural y lo artificial. El equilibrio es difícil; la tentación de absolutizar uno de los polos es constante. Y en esta época marcada por la polarización, esa tentación se vuelve todavía más intensa.

--Vivimos en la sociedad de la imagen porque ha arraigado la idea –tan cómoda como peligrosa– de que una buena estrategia para afrontar los problemas consiste en negarlos, en actuar como si no existieran. Quizá porque también se ha impuesto cierto pesimismo sobre la posibilidad de que podamos solucionarlos. En este contexto se entiende la intuición de Jacques Derrida cuando habla, en distintos lugares de su obra, de una cultura atravesada por el “miedo al miedo”: el intento de neutralizar incluso aquellas emociones que nos alertan de lo real. Nos han enseñado, en cierto modo, a no temblar.

»Sin embargo, el miedo es una reacción emocional sana. Como el hambre. Sin apetito tendemos a no comer –y es muy difícil comer por pura convicción filosófica. Todo buen médico se inquieta cuando un paciente pierde el apetito.

»Del mismo modo, el miedo nos ayuda a detectar amenazas y a actuar con prudencia. El temerario, el que no siente miedo ante nada, no es valiente: es imprudente. Las emociones, bien integradas, no nos debilitan; nos orientan.

»Ahora bien, hay muchos tipos de miedo. El “temblor” que mencionas en la pregunta no es el sobresalto inmediato, sino un miedo hondo, existencial: el que surge al contemplar la fragilidad de la vida, el paso del tiempo o la incertidumbre ante el futuro. Ese temblor también puede ser expresión de asombro ante lo sublime. En la tradición cristiana, el temor de Dios tiene precisamente esa dimensión: no es pánico servil, sino conciencia reverente de nuestra pequeñez ante el infinito.

»Por eso en la Biblia uno de los saludos más repetidos del Ángel de Dios es: “No tengas miedo”. No se trata de negar la emoción, sino de no quedar paralizados.

»Es una invitación a no caer en el miedo del cobarde que olvida que no está solo. La fe no suprime el miedo; lo reordena, porque nuestros cabellos están contados. Es natural temer, pero también, gracias a la confianza en Dios, también es posible ser valientes. A veces confundimos valentía con ausencia de miedo, cuando en realidad la valentía consiste en actuar bien a pesar del miedo. ¡Cuánta gente valiente recorre el mundo sin saberlo!

»Alegrémonos por los horizontes que se abren, pero dejemos también espacio para ese “buen temblor” que nos obliga a pensar en las posibles derivas, en las distopías tecnológicas y en los efectos culturales a largo plazo.

»La clave, otra vez, es la dualidad: apertura y cautela, entusiasmo y discernimiento. No anestesiar el miedo, sino integrarlo como parte de una razón práctica que no renuncia a mirar de frente tanto las promesas como los peligros.

-- Uno de los retos más importantes tiene que ver con la lucha contra el dogma, cada vez más extendido, del progreso tecnológico inevitable. Los cristianos tenemos que ser conscientes de que el progreso tecnológico no conduce necesariamente al progreso humano. Son necesarios más factores y, entre los más importantes, una adecuada idea de quién es el hombre: alguien que no puede ser manipulado bajo criterios estrictamente materiales. Cuando se apuesta por la tecnología como caballo ganador para cualquier empresa es cuando empiezan los grandes problemas. Este es precisamente uno de los riesgos actuales: creer que la IA puede ser la panacea a los males de este mundo –pobreza, injusticia, corrupción… Esta tecnología va a facilitar y acelerar muchas tareas que antes no era posible automatizar y de ello hemos de esperar, entre otros, grandes adelantos médicos. Pero también será capaz de llevar las campañas de propaganda y control social a un nuevo nivel. Así que, parafraseando a Hannah Arendt, hemos de esperar lo mejor y prepararnos para lo peor.

»Otro gran reto que creo que tenemos entre manos, ahora con más urgencia que nunca, es el de formar a los ciudadanos para que entiendan la diferencia entre una inteligencia natural y una artificial. De ello va que no terminemos confundidos y haciéndonos amigos de una máquina. La IA puede decir que nos ama, y ser más convincente que algún familiar afectivamente torpe —que nos ame de verdad. La IA no sabe lo que está diciendo, no es consciente, ni, por tanto, puede darse con ella ese espacio intersubjetivo –ese tú a tú– que exige el amor. La máquina no es sujeto porque carece de un dentro, de una subjetividad donde los fines, por ser sentidos, se hacen significativos tanto para el amante como para el amado.

»Suelo poner este ejemplo sencillo para explicar el problema. Aunque solemos decir que los aviones vuelan, en sentido estricto, es el hombre el que vuela con los aviones. El avión va y viene, se dirige hacia distintos aeropuertos —tiene fines, podríamos decir—, pero no es consciente de tales viajes ni le importa viajar a París o a Nueva York. Sucede lo mismo cuando decimos que una IAE nos ama: puede cumplir con los ritos del amor, ser un perfecto seductor o una perfecta seductora, pero en último término, o hay alguien detrás que mueva los hilos intencionalmente o es la peor farsa que podamos concebir.

»La paradoja es que estos humanoides no nos mueven a sospechar que haya alguien detrás, como sí pasa con una carta de amor, pues nadie se enamora de una carta de amor, sino del que la envía. La IAE es capaz de inducir en el usuario poderosísimos espejismos de antropomorfización. Lo peor es que, para tal fin, no es necesario el más sofisticado algoritmo: en la sociedad del cansancio y de la soledad –otras denominaciones que sumar a nuestra sociedad, además de las de la sociedad sentimental o de la imagen– bastan unas pocas palabras amables, como “te quiero”, “¿qué tal tu día?”, “estoy feliz de estar a tu lado”, para que el corazón se doblegue. Somos más frágiles de lo que nos gusta pensar.

»Necesitamos preparar esos corazones para esperar algo más del amor, formación que no se adquiere de la noche a la mañana. Y aquí un tercer gran reto para los cristianos del siglo XXI: vencer la ingenuidad del humanista cool.

»Es la etiqueta cariñosa que utilizo para señalar a esos creyentes que no quieren hablar de los peligros de la tecnología para no ser tachados de retrógrados o acusados de tener miedo. La cuestión es que dicha actitud los lleva a defender respuestas tan débiles como buenistas frente a los peligros tecnológicos. Pongo un ejemplo que todo padre con hijos de veinte años entenderá. Cuando comenzaron las familias a comprar móviles, no fueron pocas las voces que se alzaron para prevenir su uso en menores. Sin embargo, el mensaje que se impuso entre los cristianos fue precisamente el que lanzaron los humanistas cool: "Si no enseñamos a los niños a usar la tecnología con responsabilidad, lejos de ser un problema, podría convertirse en un instrumento educativo y de interacción social de primer orden. Sabemos que estaban equivocados, pues sufrimos las consecuencias. Hoy la historia se repite.

»En síntesis, este tercer reto consiste en entender de una vez por todas que hay tecnologías suficientemente poderosas como para que una simple charla, curso de formación o incluso la educación más amorosa dentro de la familia logre que el menor sea capaz de controlarla. Pensemos en esos opiáceos que hacen tanto bien, pero que los hospitales guardan en habitaciones de doble cerrojo.

»Llévelos a casa y habrá convertido al niño o a sus padres en adictos —no importa cuán buena haya sido su educación. No es casual que en la nueva normativa de la Unión Europea para la regulación de la inteligencia, la IAE haya sido situada en el nivel más alto de peligrosidad. Tiene cierta lógica. Se nos gana antes por el corazón que por la inteligencia.

-La primera actitud, lo acabo de señalar, es la de la prudencia, que tiene que ir acompañada de la virtud de la humildad. Hay batallas que es mejor no librar y esperar a ver qué pasa.

»En segundo lugar, resulta muy difícil mantener una relación adecuada con la tecnología si, cuando nos alejamos de las pantallas, no sabemos qué hacer, cómo llenar el hueco que han dejado. Lo lógico es que nos llenemos de ansiedad y que estemos deseando volver a conectarnos. La verdadera tarea reside en recuperar la realidad natural, volver a ser capaces de contemplar lo que nos rodea y a quienes nos rodean, por nosotros mismos, sin mediación, en lo que los filósofos y teólogos han solido denominar actitud contemplativa.

»No se trata de hacer nada raro. Consiste en dedicar un rato a observar y a descansar en la observación, algo parecido a lo que hace un pintor con sus lienzos y pinceles en medio de una plaza. Las primeras sensaciones son de  hastío e impaciencia, pero luego… la de temblor –el buen temblor. La contemplación nos abre a la belleza del mundo, nos conecta con una realidad que pasa a importarnos de veras. Y en esa experiencia, que a mí me gusta denominar como la mística de lo cotidiano, el corazón se siente naturalmente comprometido, arrastrado por el amor hacia el cuidado de la realidad y, en especial, del prójimo. Pasear por el campo es una experiencia maravillosa, pero más aún dedicar algo de tiempo a mirar a esos seres humanos con quienes compartimos el día y, por supuesto, estar un rato frente al sagrario. En todos estos escenarios tenemos que repetirnos: para y piensa o, mejor todavía, para de pensar y mira –contempla.

»La tecnología es extraordinaria en muchos aspectos y también en lo que a la actividad contemplativa se refiere. La pintura, la danza, la literatura… son otro tipo de mediaciones, otros canales maravillosos desde donde contemplar la vida, alejados de las pantallas. Yo soy un amante del cine —la gran pantalla— que nada tiene que ver con eso que hacemos cuando vamos deslizando videos en nuestros móviles. Las cafeterías son otro invento tecnológico maravilloso para acudir con gente —o solos— a hacer algo muy distinto de lo que hacemos en las redes sociales. O una catedral, otro ejemplo de producto tecnológico que, si está bien hecha, ayuda a la contemplación del Ser sobre todo ser.

»Lo único que la tecnología no nos puede alcanzar, y que de hecho tenemos que tratar que no se interponga, es en ese momento de inmediación –de parada existencial– entre el individuo y el Ser. Catedrales, imágenes de la Virgen María, textos religiosos… Son todos medios para acercarnos a Dios, pero son solo eso. Confundir el medio con el fin sería caer en idolatrías, por cierto, muy relacionadas con el error de no ser capaz de mirar más allá. Ahora comienzan a proliferar los chatbots religiosos; algunos incluso hacen como si el mismo Jesús te hablara por el teléfono móvil. Por supuesto, no es real, por lo menos no más que una escultura o película de la vida de nuestro Señor.

»Pueden tener valor catequético, sí, a condición de que quede claro que es solo eso, un chatbot. El problema de la IA es que hace más fácil la confusión, pues se dirige al usuario de manera muy personal, aprende de sus preguntas y reacciones –también emocionales. Por tanto, son tecnologías que exigen de nosotros más cautela y empeño en discernir la ficción de la realidad. Y si no se tiene claro que una tecnología es segura para el espíritu, lo mejor es dejarlas provisionalmente de lado.

»Pero volvamos a lo importante. Nada favorece más al servicio de la dignidad humana que ayudar a las personas a descubrir por ellas mismas dicha dignidad. La innovación tecnológica en IA tiene también aquí un vasto campo de exploración. Estemos abiertos al futuro y pongamos a trabajar la imaginación.