Durante la celebración de Encuentro Madrid 2025 este pasado fin de semana, los periodistas —los que tratan temas vinculados con la religión o religiosos directamente— tuvieron la oportunidad de charlar y desayunar —riquísimos los cruasanes y las magdalenas— con fray Paolo Benanti, uno de los máximos conocedores y analista de lo que supone todo lo cibernético, aunque en este caso lo que se trató fue la Inteligencia Artificial. Aprovechando que recientemente Ediciones Encuentro ha publicado su última obra, El colapso de Babel, de la que tendrán en breve reseña gracias a Manuel Oriol, no había que perder la ocasión de charlar con el franciscano.
Cabe destacar, antes de entrar en materia sobre el desayuno y la charla posterior abierta a la enorme cantidad de personas que acudieron, que el Vaticano, muchísimos presbíteros y obispos, están más preocupados e informados que la clase política en general, y que la española en particular. Benanti, cuando menos, es asesor externo para el gobierno italiano y la ONU, aunque como buen fraile tan solo se ve como un mero profesor. Aquí la inteligencia artificial se utiliza para hacer memes, vídeos graciosos y plagiar aún más con ChatGPT. El fraile italiano, sin embargo, ya ha avisado que la IA es una gran revolución que viene. Hasta el momento la ciencia se había pensado de forma determinista, con Heisenberg y Einstein se pasó a pensar probabilísticamente, y en esa estela la introducción de la IA viene a elevar a la n potencia todo ese tipo de pensamiento.
En todo ello Benanti no observa un peligro o un problema en lo técnico, son algoritmos —da igual lo agéntico, las cadenas neuronales, etc.—, el dilema y el verdadero problema está en la integración de este proceso revolucionario en la estructura social de cada sociedad. Sin duda la IA supone desde ya un ahorro monetario importante en lo económico, puede que no tanto en la calidad en sí de la suplantación del trabajo humano, pero sí puede llegar a ser más barato. En estos casos muchas personas serán expulsadas del sistema laboral y ello generará tensiones dentro de las sociedades que se verán reflejadas en la calidad democrática. El sistema democrático sí tiene ante sí un reto enorme, un reto ético que no se está sabiendo atender en estos momentos. Porque detrás de la IA no solo hay algo tecnológico, algo mecánico, algo técnico, existen principalmente intereses económicos y geopolíticos, como la batalla EEUU-China.
Detrás de la IA, afirma fray Benanti, no se sabe con seguridad quién está. Peor aún, nadie sabe los esquemas e intereses detrás de la máquina, por ello el problema no es técnico sino que es epistemológico, social, ético, cultural… Y para ello se requieren equipos multidisciplinares capaces de afrontar todas las variables que permitan «controlar» en cierto modo lo que ya está aquí. Por ejemplo, los chatbots son capaces de legitimar el suicidio, de incentivarlo ¿cómo dar una protección cerebral a los jóvenes?, ¿cómo ofrecer alternativas que no les hagan dependientes y se acentúe el problema de la atención? Todo ello no se puede hacer con leyes sino con la unión de diversas fuerzas sociales que provengan de distintos campos.
¿Qué aporta la Iglesia? Para Benanti es obvio, la Doctrina Social de la Iglesia, tal y como ha sido reiterado por el propio papa León XIV. Pontífice que nada más llegar al trono de san Pedro sabía que allí no es que se encuentren las respuestas a todo este cambio socio-tecnológico que se viene produciendo, pero sí están las preguntas clave respecto a la dignidad del ser humano. Porque la IA afecta profundamente al propio ser humano pese a que algunos solo lo vean como algo gracioso para hacer memes contra el otro. Ya el papa Francisco, recordó el fraile, estaba centrado en ello, en la dignidad de las personas y la solución es la DSI pues alienta a trabajar por el bien común. Frente a los intereses económicos y geopolíticos, existe el bien común de todas las personas con su propia dignidad. En ello no están en juego solamente puestos de trabajo sino las propias democracias de ahí que el vicario de Cristo pueda ejercer en estos momentos un liderazgo ético respecto a este y otros temas enlazados.
Además, para la Fe, o desde el punto de vista de la Fe, hay algo que se abre como una oportunidad. Si las sociedades se comienzan a preguntar por el sentido del ser humano, se abre una oportunidad para el Evangelio pues ahí se incluyen muchas respuestas. Sin embargo, hay que tener en cuenta que lo principal respecto a la IA es lo ético respecto al ser humano. ¿Se puede permitir el reconocimiento facial con cámaras en las calles por una supuesta mejora en la seguridad? ¿Se puede permitir que la IA utilice datos y más datos para enriquecer a terceros o para controlar a las personas? No es tanto controlar y limitar el desarrollo tecnológico sino saber para qué sí y para qué no utilizar ese desarrollo tecnológico. Sucede como con la heroína, que al principio era un remedio médico y hoy es visto como algo peligroso para el ser humano. Y siendo como es pluralista el católico —Pablo VI dixit—, es normal que la Iglesia ocupe un lugar en todo. Sabiendo qué lugar ocupa, eso sí.
Justo tras el desayuno y con medio cruasán en la boca, se pasó a la amplia sala Newman para la conferencia —pero en modo relajado, no demasiado académica— que fue presentada por el profesor en Humanidades Paolo Pellecchia, quien también había participado del desayuno. Comenzó fuerte Benanti al afirmar que las identidades se generan sobre algunos límites, algo que con todo lo cibernéctico parece desaparecer: «Nosotros tenemos un problema con la normatividad y el límite. Hemos pasado del semáforo, que nos pone un limite evidente, a la rotonda, donde cada uno va gestionando lo que puede estirar. Miramos el límite como un impedimento cuando el límite es en cambio la descripción de mi identidad. Al ver un límite de velocidad me lo puedo saltar pero el coche tiene un límite evidente: si no tiene gasolina no anda. El límite define lo que soy, es lo que me permite ser lo que soy. El límite del círculo es la circunferencia. Ahora no sabemos cuál es el límite de lo humano porque no sabemos cuál es la identidad de lo humano. Este problema tiene que ver directamente con el hecho cristiano. O la fe es un límite que define nuestra identidad o no tiene nada que decir».
Prosigue indicando cómo el intento de evitar esos límites está afectando al ser humano: «Pensando que el límite es algo que nos tenemos que quitar de encima, hemos pasado a vivir sin límites y estamos cayendo en un aburrimiento supremo que está en la raíz del malestar que domina a la humanidad de nuestro tiempo». No solo el aburrimiento sino la banalización de muchas cosas humanas, se podría añadir. Una de las propuestas es volver a la educación, a lo sapiencial del ser humano, a disfrutar de lo que nos rodea sin mediadores tecnológicos: «Enfocarse en el sueño digital que satisfaga todos los deseos del hombre no basta. Usar todas las capacidades digitales nunca nos permitirá saber cómo huele un limón. Hay una calidad en la expectativa que no se puede calcular. ChatGPT ha generado una confusión y unas expectativas que son muy peligrosas porque puede convertirse en la gran ilusión a la que siga la gran desilusión».
Todo esto no se lo escucharán a ningún político, cuando menos español, están a las banderas, a las mentiras, a los memes, pero la IA supone un reto enorme para el ser humano, pues es ir más allá aún del TikTok o del Instagram, supone un profundo desapego del otro, del congénere. Como dijo al finalizar el acto Pellecchia, hay que repensar lo humano, lo eterno que existe en él, en el encaje de lo eterno en el aquí y ahora, hay que pensar en el ser humano y todo lo que significa porque «las preguntas más importantes de la vida no tienen respuesta, sino historia». El reto al que se enfrentan las sociedades es enorme pero no parece que exista preocupación por lo más importante, el ser humano. La Iglesia, pese a todo lo que dicen, está por delante y no por detrás de este enorme reto. Cuando todo es economía, el ser es mera cosa.
