Gandalf frente a la IA: un magisterio de resistencia y literatura
El famoso personaje de Tolkien nos habla, ante el cambio de paradigma representado por la IA y el advenimiento de la tecnocracia, desde la primera encíclica de León XIV.
Por Juan Francisco Baroffio
No puedo no empezar por Borges. Aunque, a decir verdad, no le gustaba la obra de J. R. R. Tolkien. Pero en su universalidad, el autor de Ficciones, nos regala ideas, conceptos y lecturas que se aplican a la literatura en general, más allá de sus gustos personales. En este caso su concepción de los clásicos.
En un breve ensayo de Otras inquisiciones, justamente el titulado “Sobre los clásicos”, que en una típica maniobra borgesiana recién aparece, para quedarse definitivamente, en la reedición de 1966, nos dice que los clásicos nacen gracias a los lectores. No por tales o cuales virtudes del texto o de su autor. Tampoco importa el juicio de académicos, críticos y otros escritores, cuando ejercen como tal. Son los lectores cotidianos, de a pie, los que crean a los clásicos cuando encuentran algo en un texto que sienten que les habla a ellos, de ellos y para su tiempo, “como si en sus páginas todo fuera deliberado, fatal, profundo como el cosmos y capaz de interpretaciones sin término”. Podríamos agregar, entonces, que un clásico no es un texto sobre el pasado. Es un texto sobre el ahora.
Partiendo de esa idea, no puede sorprendernos, entonces, que en la literatura de ficción podamos abrevar en busca de atisbos de sabiduría. Incluso, atisbos de Dios. Esto, que en otros tiempos podría haber sonado herético, también parece entenderlo el papa León XIV, como varios de sus predecesores que sucedieron al apóstol Pedro, incluyendo a Francisco. En una homilía de 2002 en Kwazulu Natal (Sudáfrica), Robert F. Prevost, por entonces Prior General de los Agustinos, recurría a Lev Tolstoi para reflexionar sobre la mala utilización, incluso entre los católicos, del concepto de humildad para que pobres y oprimidos acepten los males que les provocaban los poderosos.
Los últimos dos pontífices han hecho especial hincapié en la importancia de la literatura en la formación humanística. Francisco incluso habló de como una educación meramente técnica nos puede volver fríos instrumentos. Ambos invitaron a los escritores a crear. Ambos escribieron que la literatura es un medio privilegiado para entender lo que otros viven, sienten y sufren. Y, pareciera, que ambos también la conciben como un derecho de los pueblos.
Un horizonte lleno de complejidades
En Magnifica humanitas, el papa romano aborda en forma revolucionaria el tema de la IA y su creciente poder y la problemática humana acuciante que amenaza nuestro presente y futuro.
Ante este nuevo paradigma, ominoso y misterioso, que está totalmente integrado a cada aspecto de nuestra vida cotidiana, es fácil sentirse descorazonado. ¿Qué puede hacer un simple humano, una mujer u hombre cualquiera, frente a los llamados “Oligarcas de Silicon Valley”? ¿Cómo oponer alguna resistencia si hasta las potencias nucleares se arrodillan ante corporaciones como Palantir o Anthropic?
León XIV, indudablemente por su comprometida experiencia pastoral, sabe que hay que hablar para todos. Las grandes cuestiones, sobre todo cuando van al corazón mismo de la humanidad, no solo están reservadas a la reflexión de elites intelectuales. Por eso se vale de uno de los personajes más populares y queridos de la literatura fantástica para explicar su mensaje.
Más que un personaje
En el punto 213 de su encíclica aparece una frase de labios de Gandalf, probablemente el más emblemático personaje de Tolkien. Y no es cualquier pasaje el que elige citar el pontífice. En El Señor de los Anillos, El retorno del rey, tercera parte de la saga, Gandalf se pronuncia cuando los protagonistas deliberan sobre qué hacer frente a Sauron y el poder desatado de Mordor. “No nos atañe a nosotros dominar todas las mareas del mundo, sino hacer lo que está en nuestras manos por el bien de los días que nos han tocado vivir, extirpando el mal en los campos que conocemos, y dejando a los que vendrán después una tierra limpia para la labranza”.
Gandalf no nos invita a limitarnos con la esperanza “buenista”. El mensaje es mucho más profundo. Lo atraviesa todo. Es evidente que no podemos controlar las fuerzas de la historia: la IA, los algoritmos, las grandes plataformas tecnológicas, los sistemas autónomos y la concentración de poder son fuerzas que exceden completamente al individuo. Pero hay que “hacer lo que está en nuestras manos”. No podemos quedarnos en una pasividad cómoda, excusándonos en la limitación. El mago no nos propone resignarnos ante Sauron. Propone actuar “en los campos que conocemos”, o sea, cada uno desde nuestro lugar, ya sea el social, familiar, laboral, político. Es una concreta ética de la responsabilidad. “Dejando a los que vendrán después una tierra limpia para la labranza”. Nuestra obligación, nos dicen Gandalf y León, nos trasciende y a nuestro espacio temporal. Es una responsabilidad intergeneracional. Y también de protección de la “Casa Común”, en una continuidad más que explícita del magisterio de Francisco vertido en Laudato si’.
Gandalf, no aparece aquí citado porque es meramente el personaje de un autor católico, ni tampoco es solo un mago poderoso. En El Silmarillion y en Cuentos inconclusos, Tolkien escribe que la verdadera naturaleza de los Istari (a los que pertenecen Gandalf y Saruman), es la de ayudar, no gobernar. Gandalf representa el conocimiento y el poder sometidos a una finalidad moral. Por eso su contraparte arquetípica resulta Saruman, que termina confundiendo conocimiento con poder y dominio. Esa misma cuestión está planteada por León XIV en su reflexión sobre la IA: el problema no es únicamente qué puede hacer la tecnología, sino quién posee el poder de utilizarla y con qué finalidad. La encíclica dedica un capítulo entero al paradigma tecnocrático, el poder digital, la gobernanza y el riesgo de deshumanización.
Un gesto que lo dice todo
Pongámonos suspicaces por un momento: la específica referencia a Gandalf no puede ser casual. Es sabido que los papas suelen también hablar con sus gestos. Existe todo un universo gestual que tiene una contundencia imprevisible.
Si pensamos que la empresa fundada por Peter Thiel y Alex Karp se llama Palantir, podemos encontrar otra clave de la cita de León XIV. La empresa mencionada desarrolla sistemas capaces de integrar enormes cantidades de información para intervenir en decisiones que afectan a gobiernos, ejércitos y ciudadanos. El nombre hace referencia a las palantíri, míticas piedras videntes creadas por los elfos del universo de Tolkien, que en varias oportunidades se convierten en un arma poderosa en manos de villanos como Saruman y Sauron, que utilizan la información para ejercer su despiadado poder. No entremos a especular, por motivos de longitud, sobre qué mensaje quiere dar alguien que bautiza a su empresa con un nombre semejante. Aunque parece obvio.
Borges también dijo que hay personajes que se vuelven más reales que sus propios autores y que, de alguna forma, se independizan de ellos. Gandalf es uno de ellos. El propio León XIV lo menciona específicamente y Gandalf ya no es personaje, sino una fuerza viva de sabiduría, responsabilidad y literatura.
Este es un artículo para el especial dedicado a la visita a la Argentina del papa León XIV
Comentarios