|
[ ES ]
Card. Victor Manuel Fernández
Prefecto del
Dicasterio para la Doctrina de la Fe
Discurso para la jornada de estudio "Las lecciones de
la Carta Encíclica
Magnifica Humanitas. Una IA centrada en las personas",
Universidad Pontificia Comillas, Madrid
(30 de septiembre de 2026)
La inteligencia artificial en una magnífica humanidad
No desarrollaré en este breve tiempo todo lo que ya sabemos sobre la IA y sus
desafíos (la justicia digital, la protección de datos, las normativas sobre la
privacidad, el debilitamiento de las relaciones interpersonales, las
consecuencias para el mercado del trabajo, etc.), temas que se encuentran
también en la
encíclica, pero que esta no considera posible clarificar
plenamente. En efecto, sobre los sistemas de inteligencia artificial dice: “todos nosotros, incluidos quienes los diseñan, sabemos muy poco sobre su
funcionamiento efectivo. Las inteligencias artificiales modernas están más
‘cultivadas’ que ‘construidas’: los desarrolladores no diseñan directamente cada
detalle, sino que crean una arquitectura sobre la cual la IA ‘crece’. En
consecuencia, los aspectos científicos fundamentales —como las representaciones
internas y los procesos computacionales de estos sistemas— siguen siendo
desconocidos” (MH 98).
Sobre algunas cuestiones que acabo de elencar, aquí hay algunos expertos que
luego nos ayudarán. Pero me pregunto cuál es el llamado fundamental que hace la
encíclica acerca de este tema, y podemos sintetizarlo diciendo que es éste
(cito): “Para que la IA respete la dignidad humana y sirva realmente al bien
común, es esencial que las responsabilidades estén claras en todas las etapas:
desde quienes diseñan y programan los sistemas hasta quienes los utilizan y
quienes resuelven confiarles las decisiones concretas. En muchos casos, sin
embargo, los procesos internos que conducen a un resultado pueden ser poco
transparentes, y eso hace más difícil atribuir responsabilidades y corregir los
errores […] Pedir prudencia, controles rigurosos y, en ocasiones, también una
ralentización en la adopción de la IA no significa estar en contra del progreso,
sino ejercitar un cuidado responsable hacia la familia humana” (105-106).
Aquí llegamos al punto: el cuidado de la humanidad, esta es la cuestión
de fondo. Por eso me detendré en esta estructura conceptual más honda y
transversal de
Magnifica humanitas. De hecho, el subtítulo, que es clave
para orientar la interpretación, no dice: “sobre la inteligencia artificial”,
sino: “sobre la custodia de la persona humana en el tiempo de la inteligencia
artificial”.
Desde el comienzo la
encíclica invita a contemplar a la humanidad como
"magnífica". Y lo hace aunque el texto reconozca la terrible capacidad de maldad
que hay en nosotros, destacando cuan herida está esta humanidad nuestra que
sigue cayendo en aberraciones que no pueden justificarse de ninguna manera, que
puede alcanzar niveles de indiferencia, cinismo y crueldad que nunca dejan de
asombrarnos. A pesar de todo esto, se le llama "magnífica".
Por el contrario, los avances en la IA han dado nueva fuerza a formas de
posthumanismo que incluso proponen la sustitución de la humanidad. Al mismo
tiempo algunas formas de transhumanismo nos invitan a pensar en una humanidad
superior que, gracias a dispositivos futuros y sofisticados que resolverán
problemas y aumentarán nuestras capacidades, vivirá un paraíso en la tierra.
Pero los dispositivos y recursos tecnológicos dan al individuo una alegría
inicial, y poco después el vacío regresa, con la sensación de que falta algo.
Diferentes formas de posthumanismo consideran que esto ocurre precisamente
porque la humanidad ha llegado a su fin, por sí misma no da para más,
simplemente necesita ser reemplazada, y esto sucederá gracias a un salto
evolutivo, paso que depende necesariamente de la tecnología.
Frente a estas propuestas transhumanistas o posthumanistas, la
encíclica
presenta algunos ejemplos históricos. Son hechos que nos hacen sentir
orgullosos de ser humanos, porque muestran que esta miserable humanidad de todos
modos es capaz de reaccionar y, en algunas ocasiones, se manifiesta
verdaderamente "magnífica", porque cuida la dignidad de las personas, busca el
bien común, protege y promueve a los débiles.
Menciona el laborioso y problemático nacimiento de instituciones que nos
protegen, como la Cruz Roja y la ONU, o la estipulación de la Convención sobre
los Refugiados (123). Después recuerda eventos preciosos, como el movimiento por
los derechos civiles en Estados Unidos, con el hermoso testimonio de Martin
Luther King, o el fin del apartheid con la opción de Nelson Mandela por
el perdón y la fraternidad.
También se detiene en los nombres de grandes mujeres como Teresa de Calcuta,
Dorothy Day, Marie Curie, Elisabeth Elliot, Benazir Bhutto y otras que "han
contribuido a hacer la historia más humana" (124). Por otra parte, muestra que
la cultura y el arte pueden "guardar esta chispa" de bondad y belleza y hace
referencia a la Novena de Beethoven, al Guernica de Picasso y a la
película La lista de Schindler (122).
En estos ejemplos se ve cuánto vale cada ser humano, desde su gestación hasta el
último segundo de su vida. No importa si nació aquí o allá, si es negro, si está
preso, si es gay o discapacitado. Cada uno posee la dignidad de ser humano. Es
esa dignidad que el Papa Francisco amaba llamar “infinita”, porque no hay
absolutamente nada en este mundo que la pueda quitar al más despreciado de la
tierra.
La
encíclica concluye que esta fascinante red de bondad, lucha y belleza nos
hace entender que "la humanidad —magnífica y herida— no debe ser reemplazada ni
superada", no debe negar "lo que la hace ella misma" (126) en su verdadera
grandeza. Esta es la cuestión fundamental que, si no está clara, volverá
ineficientes todas las normativas y regulaciones.
En este abanico la
encíclica considera solamente los últimos dos siglos, de los
cuales podríamos recoger todavía más momentos bellos, eventos que parecerían
imposibles en esa misma humanidad de las guerras mundiales, las bombas atómicas,
la Shoah, el terror animalesco del 7 de octubre y la insoportable e
injustificable masacre de Gaza.
Por ejemplo, en el siglo XIX, diversos movimientos llevaron a la abolición de la
esclavitud en muchos países. Entre las dos guerras mundiales, Mahatma Gandhi
impactaba al mundo desde la India con su vida entregada y su lucha no violenta
contra el imperio colonial que oprimía a su pueblo. El 10 de diciembre de 1948,
en París, la Asamblea General de la ONU dio al mundo la Declaración de los
Derechos humanos, que proclama que “todos los seres humanos nacen iguales en
dignidad y en derechos”.
En 1960, una serie de eventos motivados por un clima social común, llevaron a 17
países coloniales africanos a lograr su independencia. En febrero de 1986, en
Filipinas, tuvo lugar la “Revolución del poder popular”, cuando más de 4
millones de personas se movilizaron de modo no violento, obligando al poder
dictatorial a realizar una transición pacífica hacia la democracia.
El 27 de octubre de 1986 se realizó en Asís la primera Jornada mundial de
oración por la paz, con la participación de 50 representantes de diversas
comunidades cristianas y 60 de otras Religiones y movimientos religiosos, con un
fuerte compromiso por la paz.
El 9 de noviembre de 1989 fue desmantelado el Muro de Berlín con una gran
participación popular. A partir de ese momento tuvieron lugar diversas
revoluciones democráticas en Europa del este.
El 20 de noviembre de 1989, en Nueva York, se adoptó la Convención sobre los
derechos del niño, con un amplio marco legal donde los niños se consideran
siempre sujetos de derecho para quienes se debe procurar un desarrollo pleno.
El 10 de abril de 1998, en Belfast, después de un gran reclamo popular, se firmó
el “Acuerdo del Viernes santo”, para poner fin a tres décadas de extrema
violencia fratricida en Irlanda del Norte.
Permaneciendo sólo en los últimos dos siglos, podríamos agregar la abolición de
la pena de muerte en muchos países, o las leyes que admitieron a las mujeres al
sufragio, o diversos hechos que favorecieron a las minorías, a los
discapacitados, a los migrantes, a los más pobres.
Faltarían millones en esta lista. Muchas veces ignorados, están los mártires de
lo cotidiano: los que tratan con cariño a sus hijos por más que estén agotados
por el trabajo y las dificultades, los médicos que duermen pocas horas porque
están siempre disponibles para sus pacientes, los que pasan mucho tiempo junto a
un ser querido anciano o discapacitado, los voluntarios que andan de noche por
las calles llevando alimento y afecto a quienes viven en la miseria, los que no
tienen vergüenza de acompañar a los presos, a los adictos, a quienes se
prostituyen y a los que el mundo cancela. Y tantos, tantos otros que no han
perdido el corazón en medio de los avances tecnológicos. ¿Por qué no les damos
un fuerte aplauso?
Esa es la magnífica humanidad. Pero permítanme ser sincero. Tengo la impresión
que en nuestra sociedad de hoy las prioridades no son estas, los sueños de las
personas no se parecen mucho a las luces que hemos mencionado, y levantar la
cabeza para reconocer al otro no parece ser el deseo que nos desvela.
Sin embargo, la chispa de la humanidad buena es tozuda y se resiste a
desaparecer. Yo sé que está Dios detrás de esa persistencia del bien, aun en
hechos menos recordados. Por ejemplo, pienso en una escena reciente, aquí en
España, de personas atacando a un extranjero con toda la saña, ante la
indiferencia o el festejo de otros, pero allí había una mujer que supo
reaccionar, y puso el pecho para detener la masacre. A esa mujer vaya todo mi
cariño.
Algo semejante recuerdo sobre un sacerdote que estuvo unos meses preso en
Argentina en tiempos de la dictadura. Tiene el pecho lleno de cicatrices, porque
estaba en una celda con otras dos personas muy frágiles, y cada tanto pasaban
algunos guardias que los azotaban con cadenas. Pero él, cuando oía el ruido de
las cadenas que llegaban, decía a los otros dos: “quédense detrás de mí, que yo
aguanto”.
Todo esto no quita valor a los grandes aportes de la IA y de las nuevas
tecnologías, que pueden prestar una gran ayuda a estas mismas acciones. ¿Cómo no
podríamos estar muy agradecidos, por ejemplo, por las posibilidades de
tratamiento médico que se nos ofrecen o que se vislumbran? Algo semejante ocurre
en diversos ámbitos de la sociedad. No hay duda de ello.
Por lo tanto, necesitamos avanzar hacia un panorama de complementación
que de ningún modo pretende negar el valor de lo humano que es previo a
cualquier tecnología, pero donde todo se armoniza con el servicio a la dignidad,
el bien común, el desarrollo integral y la fraternidad. Veamos cómo lo entiende
la
encíclica:
“Mucho más sano y razonable es pensar en un marco general donde haya diversos
modos de complementación entre la IA y las distintas expresiones de la
inteligencia humana, auxiliada y enriquecida por los recursos tecnológicos. Por
ejemplo, una canción, una pintura o un guion cinematográfico realizados por la
IA pueden tener una utilidad propia con un costo menor, pero sin duda no
reemplazan el valor específico de una obra realizada por un ser humano a partir
de su experiencia de la vida y su sentido estético. Son otra cosa” (105).
Del mismo modo, sigue la
encíclica, “en el deporte y en las artes relacionadas
con el espectáculo, por ejemplo, la gente sigue valorando las capacidades de los
profesionales... No se valora que alguien juegue mejor al tenis gracias a
cualquier estímulo químico, físico o virtual, si puede lograrlo por su
capacidad, genialidad, entrenamiento y experiencia. Del mismo modo, en la
poesía, la pintura o la artesanía, todavía se valora más aquello que es más
originalmente humano... Lo humano tiene un valor único e irreemplazable y no
tiene sentido pensar en superarlo o reemplazarlo” (106).
De hecho, mucho de la genialidad de lo humano madura y brota precisamente en
medio de nuestros límites. Efectivamente, la mística que el transhumanismo nos
propone es la de superar todo límite como un gran ideal. Ante esta propuesta, la
encíclica habla del valor y la fecundidad precisamente de nuestra experiencia
del límite.
El límite, de hecho, no siempre es un defecto que debe corregirse, porque “el
ser humano no prospera a pesar de los límites, sino a menudo a través de los
límites” (118). En efecto, “es precisamente en nuestros límites que la
compasión, la preocupación sincera por las necesidades de los demás, la
generosidad que sorprende incluso en medio de la oscuridad o el fracaso, la
experiencia espiritual y la adoración a Dios encuentran espacio” (119).
A través del límite "podemos encontrar una nueva sabiduría" (119), sin olvidar
que "para suprimir el dolor por completo, sería necesario, al final, extinguir
también el amor" (120). Porque quienes aman siempre sufren.
La
encíclica continúa: "guardamos en nosotros las enseñanzas que están grabadas
como cicatrices, el recuerdo del viaje hecho entre la libertad y las caídas, los
sueños y las decepciones... No le conviene a la humanidad “renunciar a esta
aventura, tan dramática como espléndida, en nombre de una presunta superación de
todos los límites" (120).
La
encíclica es en sí misma un gran esfuerzo de diálogo de la Iglesia con la
sociedad y la cultura. Pero de todos modos es un texto cristiano que bebe de
Jesucristo y de su Evangelio, y no pretende ocultarlo. Por eso desarrolla un
punto que es crucial para la experiencia cristiana: que si queremos trascender,
y alcanzar otro nivel existencia, existe una preciosa ofrenda divina que
llamamos "gracia": es la posibilidad de ser elevados nada menos que a la amistad
con Dios a pesar de la distancia infinita que nos separa. No se puede imaginar
un paso tan audaz, sorprendente y superador para nuestras pequeñas vidas, es un
paso que a su vez despierta en nosotros los mejores gestos de entrega y
generosidad, como los que vemos en la humanidad de Jesucristo.
Todas estas consideraciones nos llevan a preguntas fundamentales: ¿Qué es ser
humanos? ¿A qué humanidad debería servir la inteligencia artificial?
---------------
A continuación quisiera destacar más brevemente un segundo punto que es la otra
clave en la estructura conceptual de la
encíclica: la cuestión del poder.
Cuando los impresionantes avances de la IA entusiasman hasta la embriaguez a los
cultores de diversas formas de transhumanismo y posthumanismo, lo que se exalta
es el poder. Hay sectores de la población, con mayor acceso a los progresos, que
adquieren una potencia impresionante. Y la pregunta es quién podrá ponerle
límites a ese poder. Por eso no debe resultar extraño entonces que la
encíclica
dedique un amplio espacio (40 puntos) a la cuestión de la guerra, o mejor, a la
“cultura de la potencia” que hoy se fortalece con los enormes avances de la IA.
Por esta razón, una gran novedad de
Magnifica humanitas es la invitación
a "superar la teoría de la guerra justa" (192). entendiendo la defensa legítima
sólo “en el sentido más estricto" (ibid.), es decir, no en el sentido
amplio y demasiado abierto de las llamadas "guerras preventivas" repletas de
“daños colaterales”.
Las guerras preventivas invocan unilateralmente posibles – no probadas –
acciones preparatorias de agresión externa y, en definitiva, meras suposiciones
sobre lo que otro país podría hacer. Esto acaba justificando todo lo que
hemos visto y seguimos viendo en Gaza, Líbano, Ucrania y otros lugares. Estamos,
como sostiene la
Encíclica, en un proceso de "preocupante rehabilitación de la
guerra como instrumento de política internacional" (190).
Pero lo más preocupante es que detrás de esto hay una cuestión cultural: La base
para poder iniciar y continuar una guerra sin oposición efectiva —como otras
decisiones políticas injustas— se prepara con una "batalla cultural" de
normalización, facilitada por los enormes recursos de la inteligencia
artificial. Es un trabajo meticuloso, capilar y global que, junto con una grave "pérdida de memoria histórica" (191),
conduce a relativizar todo, crea una población con pocas reacciones y, por
tanto, acaba dando amplia libertad a líderes violentos.
Esto implica básicamente tres cosas que necesitan un freno antes que sea
demasiado tarde:
1) El recurso constante a la descalificación, a veces desenfrenada, de quienes
piensan diferente, junto con mentiras constantes de las que nadie responde, o a
la desfiguración de datos parciales o confusos. Al final, una gran parte de la
población siente que todo es igual y se resigna. Esta violenta guerra verbal
que a su vez enardece a sectores extremos, como explica la
encíclica, va
“preparando un terreno en el que nuevos conflictos puedan madurar casi sin que
nos demos cuenta" (206).
2) La imposición de un falso "realismo político" que "califica la paz y el
diálogo como posiciones utópicas o irracionales" (205). El resultao es que la
población acaba acostumbrándose a la violencia y a la guerra como algo
inevitable.
3) La aceptación de la incoherencia como estrategia. Por ejemplo, si un país es
enemigo, se le condena como antidemocrático y se le sanciona de diversas
maneras, pero, si es un país aliado, se ignora que allí no existen libertad de
expresión, derechos humanos ni democracia real.
Basta saber transmitirlo con hábiles estrategias de marketing político, Pero así
las grandes palabras se gastan y pierden valor. El resultado será ganar votos o
dinero, pero los efectos en la cultura popular y en la salud de la democracia
son nefastos.
En el corazón de estos planteos sobre el ejercicio del poder, están los que no
tienen poder. Precisamente, en un
reciente texto de la Comisión teológica
internacional, se decía algo que me parece adecuado para concluir:
“El desarrollo tecnológico imparable … que favorece sobre todo a quienes ya
tienen mucho poder nos reta a dirigir la mirada hacia los más pobres. Si este
desarrollo, unido a las ideologías que lo acompañan, implica serios riesgos,
estos serán aún mayores para los más débiles e indefensos, es decir, para
quienes no cuentan nada porque no son útiles para los engranajes de los
poderosos. Corren el riesgo de convertirse en materia de descarte, en “daños
colaterales” barridos sin piedad… De ahí brota el deber de estar particularmente
atentos – como humildes centinelas – a las consecuencias que puedan tener los
nuevos desarrollos de la sociedad para la vida de los últimos”.[1]
Víctor Manuel Card. Fernández
|
