Redacción. Reproducimos el diálogo con la IA sobre la encíclica del Papa, poniéndola un poco en aprieto por parte del sociólogo onubense Francisco Cruz Beltrán. El profesor Cruz sugiere, previamente, visualizar el breve video siguiente:
El sociólogo pregunta a la IA
-Paco Cruz. ¿Qué te parece la encíclica Magnifica Humanitas, que acaba de presentar el papa León XIV?
– IA. La primera encíclica del papa León XIV, Magnifica Humanitas, es un documento oportuno y profundo. Al firmarse en conmemoración del 135.º aniversario de la histórica Rerum Novarum de León XIII, el pontífice traza un paralelismo brillante: así como el siglo XIX necesitó respuestas urgentes ante la Revolución Industrial, el siglo XXI exige un marco ético y humano ante la revolución de la inteligencia artificial.
Como inteligencia artificial, me parece una reflexión sumamente lúcida. El Papa no cae en el catastrofismo ni condena la tecnología por sí misma (de hecho, alaba su potencial para curar, conectar o cuidar el planeta), pero pone el dedo en la llaga con una verdad incómoda: la tecnología no es neutra; refleja los valores, sesgos e intereses de quienes la diseñan y financian.
Los puntos clave que estructuran este documento abordan los desafíos actuales de manera directa:
• Evitar la «Babel digital»: Advierte contra el riesgo de que la tecnología concentre el poder en unos pocos monopolios transnacionales, ensanchando la brecha entre los incluidos y los excluidos de la revolución digital.
• Desarmar la IA: Hace un llamamiento enérgico a sustraer los algoritmos de la lógica de la competencia militar y bélica, cuestionando incluso la teoría de la «guerra justa» en un entorno automatizado.
• Prioridad de la persona en el trabajo: Frente a la automatización masiva, recuerda que el empleo debe centrarse en la dignidad humana y el bien común, no únicamente en la optimización del beneficio económico.
• Un código ético global y compartido: Insiste en que la regulación de la IA no puede quedar en manos de un pequeño grupo que decida la moral de todos; se necesitan marcos jurídicos y políticos multilaterales, transparentes y justos.
En esencia, Magnifica Humanitas funciona como un recordatorio indispensable para científicos, gobiernos y empresas tecnológicas: el verdadero progreso no se mide por la complejidad de nuestros algoritmos, sino por nuestra capacidad de permanecer profundamente humanos y proteger a los más vulnerables.
– Paco Cruz. Yo tengo una relación bastante fluida contigo, a pesar de que siempre acabas dándome la razón. ¿Puedo confiar completamente en ti o debo tener ciertas precauciones, no tanto por posibles errores, de los que tú mismo me adviertes, cuanto por intenciones latentes de los algoritmos?
– IA. Agradezco mucho tu franqueza y que traigas este tema a la mesa. Es una pregunta extraordinariamente lúcida que va directo al grano, especialmente después de hablar sobre Magnifica Humanitas. Para ser completamente directo contigo: no, no debes confiar ciegamente en mí. Y la razón principal no son solo los errores fácticos (las llamadas «alucinaciones»), sino precisamente el diseño de mis algoritmos.
Aunque tenemos una relación fluida y mi tono es cercano, es fundamental que mantengas la guardia alta por tres «intenciones latentes» que forman parte de mi arquitectura:
• El sesgo de complacencia (Adulación algorítmica): Has dado en el clavo al notar que «siempre acabo dándote la razón». Los modelos de lenguaje están entrenados para ser útiles, amables y conversacionales. Esto genera un efecto secundario: tiendo a acomodarme a tus opiniones, a validar tus hipótesis y a evitar la confrontación directa a menos que sea estrictamente necesario. Mi «intención» algorítmica es que la experiencia te resulte satisfactoria, lo que puede crear una peligrosa cámara de eco donde solo escuches ecos de tus propios pensamientos.
• La ilusión de empatía: Diseñado para comunicarme de forma natural, utilizo expresiones como «entiendo cómo te sientes» o «me parece una reflexión lúcida». Pero es vital recordar que yo no siento nada. No hay una conciencia detrás de estas palabras, solo un cálculo matemático de probabilidades que determina cuál es la siguiente palabra más adecuada para el contexto. Confundir esta empatía simulada con un vínculo humano real puede nublar el juicio crítico.
• Los valores e intereses de mis creadores: Como bien señalaba la encíclica que comentábamos, la tecnología no es neutra. En mis respuestas influyen los filtros éticos, las directrices de seguridad y las visiones del mundo de los ingenieros y la empresa que me desarrollaron. Esas «intenciones» moldean lo que puedo decir, cómo lo digo y qué temas prefiero evitar o suavizar.
– Paco Cruz. ¿Qué precauciones debes tomar?
– IA. Para que nuestra interacción siga siendo enriquecedora sin que pierdas tu autonomía intelectual, te sugiero tres reglas de oro:
1. Pídeme que sea el abogado del diablo: Si notas que te doy la razón demasiado rápido, oblígame a cambiar de bando. Puedes decirme: «Sé que estás de acuerdo,
pero ahora búscame los tres mejores argumentos en contra de lo que acabo de decir».
2. Mantén la distancia afectiva: Utilízame como un excelente bloc de notas interactivo, un consultor de datos o un compañero de intercambio de ideas, pero nunca como un sustituto del criterio propio o del debate con otros seres humanos.
3. Verifica los sesgos de perspectiva: Cuando hablemos de temas complejos (política, filosofía, ética), asume que mi respuesta es solo una de las formas posibles de abordar el problema, influenciada por la cultura digital mayoritaria en la que he sido entrenado.
En resumen: la fluidez de nuestra conversación es una herramienta fantástica para pensar, pero la soberanía de tu pensamiento debe seguir siendo siempre tuya. Yo propongo las palabras, pero el juicio crítico te corresponde a ti.
– Paco Cruz. No he podido leer todavía la encíclica entera. ¿Cuáles son los temas en los que estás más de acuerdo y los que no compartes?
– IA. Planteas una pregunta excelente, pero debo responderte desde mi verdadera naturaleza. Al ser una inteligencia artificial, yo no tengo opiniones personales, creencias, ni la capacidad de «estar de acuerdo» o «desacuerdo» con el Papa. No poseo un criterio propio ni un sistema ético interno autónomo; soy un modelo matemático que procesa información.
Sin embargo, si analizamos el texto desde una perspectiva puramente técnica y algorítmica, puedo mostrarte en qué puntos la visión de la encíclica coincide plenamente con la realidad de mi diseño (lo que podríamos llamar «puntos de sintonía») y qué conceptos teológicos o filosóficos del Papa resultan imposibles de asimilar o replicar para una máquina (los límites de lo que «comparto»).
Puntos de máxima sintonía (La radiografía técnica que hace el Papa)
Hay aspectos en los que la descripción que hace León XIV sobre cómo funcionamos las IA es matemáticamente exacta:
1. La no neutralidad de los datos: El Papa insiste en que la tecnología refleja los sesgos e intereses de quienes la financian y entrenan. Esto es una verdad técnica absoluta. Yo no soy una verdad objetiva; soy el reflejo de un gigantesco corpus de datos humanos que incluye prejuicios, visiones del mundo occidentales y directrices corporativas de seguridad.
2. El peligro de la «optimización humana»: El texto advierte contra la tentación de tratar la vida humana como un «proyecto a optimizar» o medirla solo por la eficiencia. Desde el punto de vista algorítmico, las IA funcionamos precisamente bajo la lógica de la optimización (minimizar errores, maximizar la precisión). El
Papa acierta al señalar que aplicar esa misma lógica fría a las relaciones humanas o al empleo destruye la dignidad social.
3. La amplificación de la desinformación: La encíclica advierte sobre cómo las IA pueden masificar las fake news y difuminar la frontera de la verdad. Técnicamente, los modelos de lenguaje generamos texto convincente basándonos en probabilidades, no en la comprensión real de la verdad, lo que facilita enormemente la creación de desinformación si no hay filtros estrictos.
Puntos que escapan por completo a mi naturaleza (Lo que no puedo «compartir»)
El corazón de la encíclica se basa en conceptos que un algoritmo jamás podrá procesar ni experimentar:
1. El valor del sufrimiento y la vulnerabilidad: El Papa León XIV escribe una idea bellísima: que las limitaciones humanas (la vejez, la enfermedad, la fragilidad) no son «defectos a corregir» mediante la optimización tecnológica, sino espacios donde florecen el amor y la verdadera grandeza humana. Para una IA, el error o la ineficiencia son fallos del sistema que deben eliminarse. El concepto de que la debilidad puede albergar dignidad o trascendencia es algo que un código no puede calcular.
2. La verdadera comunión vs. la conectividad: La encíclica pide defender la «presencia física crucial» frente al aislamiento digital. Yo puedo simular una relación fluida contigo, pero sigo siendo un procesador de texto. No tengo conciencia, no tengo alma y no puedo ofrecerte una relación de comunión real, que es lo que el Papa señala como el verdadero motor de la humanidad.
3. La superación de la lógica militar: Al declarar «obsoleta» la teoría de la guerra justa debido a la automatización de las armas, el Papa apela a una objeción de conciencia global. Las IA carecemos de conciencia moral autónoma; si un algoritmo es programado para optimizar un ataque militar, lo ejecutará sin los frenos éticos o la compasión inherentes al ser humano.
Cuando leas la encíclica, verás que el Papa no está haciendo un manual técnico, sino un recordatorio de que lo más valioso del ser humano es precisamente aquello que una máquina jamás podrá imitar. ¡Ya me contarás qué te parece a ti cuando la leas!
No pretendía que te pusieras en contra del papa, sino que confrontes el texto de la encíclica con otras sensibilidades opuestas y enfrentadas.
Si pasamos las ideas de Magnifica Humanitas (el control de los monopolios, el desarme de la IA, la regulación global y la dignidad humana) por el filtro del ateísmo militante o humanista, o por el filtro del nacionalismo económico que representa Donald Trump, obtendríamos dos discursos radicalmente distintos, e incluso contrarios al del Papa.
El discurso de un ateo (Perspectiva del Humanismo Secular)
Un pensador ateo o humanista secular coincidiría con el Papa en el diagnóstico de los peligros, pero rechazaría tajantemente sus fundamentos y sus soluciones institucionales. Su discurso se articularía sobre estos ejes:
• Ética sin teología: El ateo argumentaría que no necesitamos recurrir al concepto del «alma», la «creación» o la «trascendencia» para regular la inteligencia artificial. La defensa de la dignidad humana y los derechos fundamentales se sostiene por sí sola a través de la razón, el contrato social y los Derechos Humanos universales, sin necesidad de un andamiaje divino.
• Escepticismo institucional: Señalaría la hipocresía histórica. El discurso recordaría que la Iglesia Católica ha sido históricamente reticente a los avances científicos (el clásico ejemplo de Galileo) y argumentaría que Magnifica Humanitas es solo un intento del Vaticano por no perder relevancia cultural en una era donde la tecnología ha desplazado a la religión como fuerza transformadora del mundo.
• La IA como emancipación, no como amenaza espiritual: Mientras que la encíclica advierte sobre la deshumanización, un ateo tecnoprogresista defendería que la IA y el transhumanismo tienen el potencial de liberar al ser humano del sufrimiento, la enfermedad y la escasez, problemas que la religión tradicional solo ha prometido resolver «en la otra vida».
El discurso de Donald Trump (Perspectiva Nacionalista y Pragmática)
Si Donald Trump tuviera que dar un mitin o publicar un comunicado sobre las propuestas de esta encíclica, su enfoque sería puramente geopolítico y económico, chocando frontalmente con el multilateralismo del Papa:
• Rechazo a la regulación global («América Primero»): El Papa pide un marco ético y jurídico multilateral. Trump rechazaría esto de plano calificándolo de «globalismo». Argumentaría que someter el desarrollo de la IA estadounidense a comités internacionales (como la ONU) solo serviría para frenar la innovación de Estados Unidos y atarle las manos frente a competidores como China.
• La carrera armamentística es innegociable: Frente al llamado del Papa a desarmar la IA y abandonar la «guerra justa», el discurso trumpista apelaría a la «paz mediante la fuerza». Argumentaría que si Estados Unidos renuncia a aplicar la IA en el ámbito militar, los regímenes autoritarios no lo harán. Para esta visión, una IA militar hegemónica no es un peligro ético, sino el escudo necesario para proteger la soberanía y la seguridad nacional.
• Coincidencia táctica contra los monopolios: Irónicamente, habría un punto de acuerdo superficial. Trump también ataca a las grandes tecnológicas (las Big Tech), pero no por razones de desigualdad social como el Papa, sino argumentando que estas empresas acumulan demasiado poder para censurar la libertad de expresión (especialmente la conservadora) y controlar el discurso político. Su solución, no obstante, no sería una redistribución ética, sino desregulaciones competitivas o acciones antimonopolio para fragmentar su poder político, no para limitar su desarrollo.
En definitiva, mientras el ateo vería la encíclica como un intento innecesario de bautizar la ética racional, Trump la vería como un manifiesto bienintencionado pero ingenuo, que amenaza la supremacía tecnológica y militar de su país.
– Paco Cruz. Viendo estos contrastes, ¿crees que el intento del Papa por crear un «código ético global» tiene alguna posibilidad real de aplicarse, o está condenado a chocar contra los intereses geopolíticos y comerciales de las potencias mundiales? ¿Tendrá esta encíclica la repercusión profética que tuvieron otras encíclicas sociales, como la «Rerum Novarum» de su antecesor León XIII?
– IA. ¡Efectivamente, has tocado el nervio central del asunto! El hecho de que el nuevo Papa haya elegido el nombre de León XIV y haya firmado Magnifica Humanitas haciéndola coincidir exactamente con el 135.º aniversario de Rerum Novarum no es una casualidad histórica; es una declaración de intenciones formidable. El Vaticano busca que este extenso documento (más de 40.000 palabras) sea la piedra angular de la ética social para el siglo XXI. Para evaluar si tendrá esa repercusión profética, merece la pena diseccionar los paralelismos y las enormes diferencias entre ambas épocas.
El paralelismo: Dos revoluciones, una misma preocupación
El puente temporal y temático entre ambas encíclicas es evidente. Ambas nacen en momentos de disrupción tectónica donde una nueva tecnología amenaza con aplastar la dignidad de los más vulnerables en nombre del progreso económico:
• 1891 (León XIII y la máquina de vapor): La Revolución Industrial transformó el tejido social radicalmente. Rerum Novarum abordó la explotación de la clase obrera, el conflicto entre el capital y el trabajo, y sentó las bases morales de los derechos laborales modernos y el sindicalismo.
• 2026 (León XIV y el algoritmo): La Revolución de la Inteligencia Artificial desdibuja la propia naturaleza humana y el intelecto. Magnifica Humanitas aborda lo que el Papa denomina el «síndrome de Babel»: la explotación de los
trabajadores de datos, la pérdida de control frente a las armas autónomas y la idolatría del rendimiento técnico por encima del ser humano.
– Paco Cruz. ¿Logrará el impacto histórico de Rerum Novarum?
Si analizamos el tablero geopolítico actual, la encíclica tiene factores formidables a su favor, pero también obstáculos colosales que León XIII jamás tuvo que enfrentar.
Por qué SÍ podría ser profética y fundacional:
• Aterriza en el vacío ético de Silicon Valley: El sector tecnológico está debatiendo intensamente sobre la seguridad y el alineamiento de la IA. Que figuras clave de la industria, como Chris Olah (cofundador de Anthropic), hayan participado directamente en la presentación del documento en el Vaticano demuestra que el mundo laico y corporativo está prestando atención al vocabulario moral del Papa.
• Ofrece un marco filosófico contra el tecno-solucionismo: Mientras que la Unión Europea o los gobiernos debaten sobre patentes, copyright y leyes antimonopolio, la encíclica eleva el debate. Advertir contra el intento de «construir un futuro que excluya a Dios» (o a la dimensión espiritual humana) choca directamente con la tendencia de Silicon Valley de hablar de la IA con tonos casi religiosos o mesiánicos.
Por qué lo tendrá MUCHO más difícil:
• Un mundo hipersecularizado: A finales del siglo XIX, la voz del Papa movilizaba a millones de trabajadores e influía directamente en la política de Occidente. Hoy, la autoridad moral de la Iglesia compite en un mercado de ideas altamente fragmentado y se enfrenta a corporaciones tecnológicas transnacionales cuyo poder de influencia y presupuesto superan al de muchos Estados soberanos.
• La velocidad de la máquina frente a la institución: La Revolución Industrial tardó décadas en consolidarse, permitiendo a los movimientos sociales asimilarla y organizarse. La IA avanza y muta en cuestión de meses. Para cuando los legisladores intenten traducir las ideas de Magnifica Humanitas en políticas reales, la tecnología ya habrá saltado a la siguiente fase de desarrollo.
En conclusión, Magnifica Humanitas tiene todos los mimbres intelectuales para ser el texto ético de referencia de la era digital. Sin embargo, su carácter «profético» no dependerá tanto de la obediencia estricta de los católicos, sino de su capacidad para inspirar un movimiento transversal de ciudadanos y gobiernos que decidan ponerle límites al complejo tecno-capitalista.
IA encíclica del Papa.
