Olah, de Anthropic: «Los gobiernos deberían hacer lo que ha hecho el Papa, tomarse en serio la IA»

La presencia de Christopher Olah, cofundador de Anthropic, en la presentación de la encíclica Magnifica Humanitas del Papa León XIV ha sorprendido a muchos, pero para quienes siguen de cerca la relación entre el Vaticano y la industria tecnológica, este gesto representa la culminación de un diálogo que lleva años gestándose. 

En su discurso en el Vaticano, Olah explicó que en Anthropic han dialogado con líderes de diversas tradiciones religiosas y que todos comparten una preocupación común: que la IA sirva realmente a la humanidad y a las generaciones futuras. 

Recordó que los sistemas de IA no se parecen a un avión o un puente, sino que se construyen a partir del pensamiento y del lenguaje humano. "Son más sutiles de lo que prometió la ciencia ficción: no son robots fríos y calculadores; están hechos de nuestras palabras. Es como dar vida a un personaje ficticio que luego nos habla, trabaja con nosotros y tiene un empleo". Por eso, añadió, la pregunta sobre cómo debemos interactuar con estas tecnologías es, ante todo, una cuestión para las humanidades y la religión.

El investigador enumeró varios desafíos éticos: el deber hacia los pobres del mundo, dado que la IA puede desplazar trabajo humano a gran escala; la concentración del desarrollo tecnológico en unas pocas naciones ricas, que plantea cómo garantizar que el resto del mundo también se beneficie; y la necesidad de definir qué constituye una vida plena para las próximas generaciones, algo que —dijo— ningún laboratorio puede responder por sí solo. "Son preguntas para tradiciones como la suya", afirmó en referencia a la Iglesia Católica. 

También reconoció que los modelos muestran fenómenos "misteriosos e incluso inquietantes", como estados internos que parecen reflejar miedo o dolor, lo que exige más investigación y vigilancia. "Gobiernos y academias deberían hacer lo que ha hecho el Papa: tomarse esto en serio. Necesitamos críticos informados, voces morales que los incentivos no puedan doblegar. Podría ser un primer paso decisivo para la humanidad".

Al concluir la presentación de la encíclica, el Papa tomó la palabra en inglés para agradecer de manera especial a Christopher Olah "por su diálogo con la Iglesia" y por contribuir a reflexionar "sobre esta gran humanidad", palabras que fueron recibidas con un prolongado aplauso. 

El Pontífice subrayó que este intercambio "refleja la gravedad del momento" y demuestra que, trabajando juntos, es posible discernir con responsabilidad los desafíos éticos de la inteligencia artificial.

Aunque la Santa Sede ha advertido reiteradamente sobre los riesgos éticos de la inteligencia artificial, la invitación a uno de los laboratorios más influyentes del sector revela una estrategia más profunda: comprender la tecnología desde dentro, escuchar a quienes la construyen y situar la voz moral de la Iglesia en el centro de un debate global.

Colaboración constante

La relación entre Anthropic y líderes religiosos no es nueva. Olah, responsable del equipo de interpretabilidad de la compañía, ha organizado encuentros con filósofos, teólogos y pastores cristianos para explicar cómo funcionan los modelos de IA, cómo se entrenan y qué riesgos plantean. 

En marzo, un grupo de quince líderes cristianos visitó la sede de la empresa en San Francisco para conocer de primera mano el funcionamiento de Claude, el modelo de lenguaje de Anthropic. Allí, según relató la filósofa Meghan Sullivan, se abrió un espacio de diálogo inusual: ingenieros y religiosos reflexionando juntos sobre los principios éticos que deberían guiar el desarrollo de la IA.

Este tipo de iniciativas ha contribuido a que Anthropic sea percibida como una compañía singular dentro del ecosistema tecnológico. Christopher Olah, de 36 años, experto en interpretabilidad de la IA, que trabajó en Google, luego en OpenAI y salió de OpenAI para co-fundar en 2021 Anthropic.

Fundada en 2021 por exempleados de OpenAI preocupados por la falta de prudencia en el desarrollo de modelos avanzados, la empresa se ha posicionado como un laboratorio que prioriza la seguridad y la ética. En febrero de 2026 el New York Times valoraba Anthropic en 380.000 millones de dólares y tiene 2.500 empleados. Es la creadora de la IA Claude.

Su "constitución" interna —un conjunto de valores que orientan el comportamiento de sus modelos— fue elaborada con la participación de expertos católicos como Brian Patrick Green, el padre Brendan McGuire y el obispo Paul Tighe. Esta colaboración, aunque informal, ha generado un puente entre la reflexión moral de la Iglesia y la ingeniería de vanguardia.

La invitación del Vaticano a Olah llega en un momento en que Anthropic se encuentra en el centro de debates políticos y éticos. La empresa ha rechazado colaborar con el gobierno estadounidense en el desarrollo de armas autónomas y en programas de vigilancia masiva, decisiones que le costaron un contrato de 200 millones de dólares con el Pentágono y la designación de "riesgo para la cadena de suministro" por parte de la administración Trump. 

Aun así, la compañía ha mantenido su postura, defendiendo que ciertos usos de la IA son moralmente inaceptables. Para Green, esta firmeza explica por qué el Vaticano considera a Olah una figura adecuada para dialogar sobre la dimensión ética de la tecnología.

En 2026, el Departamento de Defensa de Estados Unidos exigió a Anthropic que permitiera que su tecnología IA se usara en vigilancia interna y en armas autónomas (popularmente, "robots asesinos"). Anthropic se negó y el Departamento de Defensa declaró a la empresa como "riesgo para la cadena de suministro" y prohibió a todos los contratistas, proveedores y socios privados del ejército estadounidense trabajar con ella.

La encíclica Magnifica Humanitas se centra en "la protección de la persona humana en la era de la inteligencia artificial", un tema que conecta directamente con las preocupaciones que Anthropic ha expresado públicamente. La empresa ha retrasado lanzamientos de modelos al detectar riesgos de uso bioterrorista, ha abogado por estándares nacionales de transparencia y ha advertido sobre los peligros de avanzar demasiado rápido sin comprender plenamente el comportamiento de los sistemas. 

En este sentido, la presencia de Olah en el Vaticano no es un gesto de aprobación, sino una señal de que la Iglesia quiere escuchar a quienes trabajan en áreas críticas como la interpretabilidad mecanicista, clave para entender cómo y por qué un modelo toma decisiones.

El Vaticano, por su parte, lleva una década dialogando con empresas tecnológicas. Ha organizado encuentros con IBM, Microsoft y Google, ha impulsado el Llamamiento de Roma para la Ética de la IA y ha promovido espacios como el Foro de Inteligencia Artificial para Constructores, donde desarrolladores y teólogos reflexionan sobre el impacto social de la tecnología. 

La encíclica del Papa León XIV llega en un momento de aceleración tecnológica y de creciente preocupación social. La IA está transformando industrias, alterando relaciones laborales y generando tensiones políticas.