En los debates sobre inteligencia artificial suele darse por obvio que incorporar más tecnología equivale a progresar y que nuestra tarea consiste en adaptarnos y aprender a utilizarla, y en todo caso corregir efectos no deseados. Sin embargo, podemos desarrollar sistemas cada vez más eficaces sin haber aclarado para qué los queremos y qué estamos dispuestos a delegarles. El interés político de la encíclica Magnifica Humanitas de León XIV, firmada el 15 de mayo, en el 135.º aniversario de la Rerum Novarum, y dada a conocer el 25 de mayo, reside en cuestionar que la orientación del cambio tecnológico pueda quedar definida por quienes tienen los recursos para impulsarlo. La pregunta por la dignidad humana se convierte así en una discusión sobre quién tiene derecho a decidir cómo viviremos y qué hace que la vida humana tenga valor.
El Papa no es la única voz en este sentido. La UNESCO aprobó en 2021 una recomendación sobre ética de la IA, y existen investigaciones universitarias y organizaciones civiles que discuten estas cuestiones. Pero León XIV ha llevado esa conversación a millones de personas desde una tradición que examina críticamente los criterios con los que evaluamos el progreso. Su preocupación por la tecnología forma parte de una misión centrada en anunciar el Evangelio y promover la unidad, como expresó al inicio de su pontificado.
Quién decide los valores
Las grandes empresas tecnológicas tienen razones para invertir en seguridad y evitar daños, entre ellas la confianza de sus usuarios y las exigencias legales. Las mismas empresas investigan estos problemas. Pero sus incentivos económicos entran en tensión con una deliberación sobre los límites de sus productos, especialmente cuando esta podría conducir a restringir mercados o cuestionar servicios rentables. Por ejemplo, si bien una empresa puede mejorar la seguridad de un asistente diseñado para acompañar personas solas, nos queda pendiente discutir la conveniencia de organizar la respuesta a la soledad con sistemas que imitan el afecto. ¿Nos preguntamos qué relaciones queremos favorecer y qué responsabilidades queremos esquivar? La satisfacción del consumidor ofrece información para la innovación, pero no es suficiente para evaluar cómo afecta nuestra vida.
La encíclica examina la llamada alineación de la IA con valores humanos y advierte que antes de celebrar que una máquina responda según un código moral, necesitamos discutir quién lo define y cómo puede ser cuestionado. Las preferencias de quienes controlan los sistemas pueden adquirir la apariencia de una moral compartida, legitimada por el cálculo y la probabilidad, eliminando cualquier juicio crítico sobre sus supuestos antropológicos y éticos. Entusiasmados con la eficacia y eficiencia de las máquinas, olvidamos fácilmente discutir sobre sus criterios, porque ingenuamente creemos que son “objetivos” y fruto del cálculo matemático.
Que la tecnología no es neutral no es nuevo. Pero solemos olvidarlo al pensar que su impacto moral depende exclusivamente del uso. Un sistema diseñado para retener nuestra atención organiza una experiencia distinta de otro que esté orientado a ayudarnos a comprender. Hay decisiones que ya están tomadas antes de que el usuario intervenga, y tenemos derecho a discutirlas.
La dignidad humana antes que las etiquetas políticas
La mirada cristiana parte de que el valor de alguien no depende de su utilidad ni de que pueda superar el desempeño de una máquina. Si la dignidad se justificara por las capacidades, podría perderse con la enfermedad o la dependencia. Su reconocimiento se funda en lo que cada persona es. Permite exigir el respeto de sus derechos con independencia de su rendimiento y reconocimiento social. Esta concepción, originalmente cristiana, fue asumida y defendida por perspectivas ateas y agnósticas para fundamentar los derechos humanos.
Desde ese fundamento se comprende por qué la Iglesia defiende a los migrantes y cuestiona la explotación económica, al tiempo que sostiene el derecho a la vida desde la concepción hasta la muerte natural. Interpretar las primeras posiciones como concesiones a la izquierda y las segundas como gestos hacia la derecha es un reduccionismo simplista. Además, impide comprender el criterio desde donde la Iglesia denuncia los atentados a los más vulnerables. La vida humana conserva su valor, aunque su protección contradiga las preferencias de un sector político. Son las mismas razones para oponerse a toda forma de discriminación, exclusión y descarte de seres humanos. Así también, como su defensa del valor del trabajo no en un sentido productivo, sino de sentido y realización humana.
Cambios en los vínculos y la libertad
En las relaciones humanas hay mucho en juego con la IA. Una respuesta que imita comprensión puede aliviar un momento de angustia sin que exista alguien que se comprometa con nosotros. Pero una cuestión decisiva para la humanidad es qué sucede con nuestra disposición a encontrarnos con otros cuando nos acostumbramos a una interacción que podemos controlar y abandonar sin reciprocidad.
También se ha complejizado el modo de comprender la libertad. Elegir entre opciones personalizadas puede parecernos una ampliación de nuestra autonomía, aunque ignoremos cómo fueron seleccionadas y qué intereses orientaron su presentación. La capacidad de elegir requiere condiciones para contrastar información y tomar distancia de los estímulos. Pero si la asistencia termina volviendo innecesario ese esfuerzo, y nos gana la pereza intelectual, nos volvemos más dependientes mientras nos sentimos libres porque decidimos con mayor facilidad y rapidez. Esta preocupación es antropológica, ética y profundamente política, porque erosiona los valores fundamentales que sostienen la democracia. Una ciudadanía lúcida debe ser capaz de discutir las formas del poder y examinar las razones de lo que acepta.
Una tradición de gran actualidad
Esta reflexión fue madurando en los documentos de la Iglesia. Lo demuestran el Llamamiento de Roma sobre ética de la IA, impulsado en 2020 con participación de empresas, el mensaje de la Jornada Mundial de la Paz de Francisco en 2024 sobre IA y la nota Antiqua et nova, publicada en 2025. Para repensar lo humano y su relación con la tecnología, León XIV desarrolló de modo riguroso y profundo un análisis antropológico, ético y político a la luz de la doctrina social de la Iglesia y de la filosofía contemporánea de la tecnología.
Entre los novedosos aportes de la encíclica está la inclusión de los datos y las infraestructuras digitales entre los bienes sujetos al principio del destino universal. Esto obliga a discutir una propiedad ejercida sin considerar las necesidades comunes, así como las condiciones de acceso a recursos de los que dependen sociedades enteras.
La encíclica reconoce también la tardanza de la Iglesia en condenar la esclavitud, porque defender la dignidad humana requiere examinar las injusticias que podemos estar aceptando mientras proclamamos ese principio fundamental para para defender unos derechos y otros no. La misma tradición cristiana se vuelve un examen crítico sobre la propia vida de la Iglesia.
Una responsabilidad democrática
La autoridad moral del papa y su magisterio no sustituye la deliberación sobre el tema. Pero su aporte ha sido elogiado y bienvenido no solo por católicos, sino por quienes hoy están preocupados por el extendido relativismo moral, el hiperindividualismo y la relativización de la dignidad humana. Su mensaje y su presencia resultan inspiradores para que los gobiernos y la sociedad civil intervengan en decisiones que hoy dependen de las grandes empresas tecnológicas, y a que las universidades investiguen con independencia. León XIV es hoy una voz global que nos recuerda que hace cada vez más falta la capacidad de juicio para comprender qué estamos naturalizando y con qué posibilidades podemos cuestionar y construir un futuro libre y responsable.
Para América Latina esta cuestión supone preguntarnos qué necesidades propias orientarán la adopción tecnológica y qué dependencias podrían profundizarse. León XIV nos invita a discutir con lucidez y pensamiento crítico quién determina los fines de una transformación que afecta nuestra vida común. Los ciudadanos necesitamos participar en esa decisión, aunque no se comparta la fe y la doctrina desde la que el papa la plantea.
Te puede interesar:
- Un papa que gobierna con textos: el poder político de León XIV
- El papa de las dos Américas y el mensaje político de su viaje
- ¿Qué tan católicos son los latinoamericanos?
