Carmen Villarroel, abogada experta en IA: «La encíclica 'Magnifica humanitas' denota un conocimiento profundo por parte del papa, sabe de lo que habla»

«La magnífica humanidad que Dios ha creado se encuentra hoy ante una elección decisiva: levantar una nueva torre de Babel o edificar la ciudad donde Dios y la humanidad habiten juntos». Así comienza «Magnifica humanitas», la primera carta encíclica de León XIV, un texto de alrededor de un centenar de páginas que aborda «la custodia de la persona humana en el tiempo de la inteligencia artificial» y establece la postura ética y moral de la Iglesia ante la actual revolución tecnológica. La encíclica fue firmada el pasado 15 de mayo, en conmemoración del 135º aniversario de la histórica encíclica social «Rerum novarum» de León XIII (1891). Una abogada viguesa experta en protección de datos, privacidad e inteligencia artificial, Carmen Villarroel, ha analizado el documento desde su especialidad. «Se nota que el papa está muy bien informado, que ha leído, se ha preocupado y sabe de lo que habla. Desarrolla muy bien los temas relacionados con la tecnología, los datos y la inteligencia artificial –opina–. Hay párrafos que podrían ser perfectamente un paper de los que yo leo para investigar y mantenerme actualizada».

La IA sigue planteando dilemas éticos y de seguridad. El pasado viernes, Anthropic anunció que suspendía el acceso público a sus modelos de inteligencia artificial más avanzados, Fable 5 y Mythos 5, después de que el Gobierno de EEUU prohibiera su uso por parte de extranjeros por motivos de seguridad nacional. Precisamente uno de los cofundadores de Anthropic, Christopher Olah, participó en la presentación de la encíclica con el papa en el Vaticano. «Anthropic fue creada por personas que estaban antes en OpenAI, que no estaban de acuerdo con cómo se gestionaba la IA y crearon su propia fundación que, en teoría, es una organización sin ánimo de lucro», recuerda Carmen Villarroel. «Me encantaría saber qué habló el papa en privado con Olah, porque Anthropic es uno de los grandes actores y de los que plantean más desafíos. Hace unos días anunciaron que iban a lanzar su nueva versión, Claude 5, tras haber tenido que retirar el modelo Claude Mythos por los peligros que representaba para la ciberseguridad y la investigación», explica la abogada, máster en Derecho y Tecnología.

Carmen Villarroel, que se define como agnóstica, decidió analizar la primera encíclica de León XIV tras leer algunos fragmentos en redes sociales que la dejaron «bastante impactada». Aunque no contiene aspectos especialmente novedosos para una especialista como ella, sí considera muy importante su contenido, al tratarse su autor de una autoridad moral para Occidente. «Son temas que no suelen trascender al público porque son más académicos y puramente legales, y están por detrás de las leyes y reglamentos que ahora se están popularizando debido a su impacto», expone. «Cuando empecé a leerla me sorprendió que estuviera tan bien hecha y que el enfoque sea coherente con sus principios: la dignidad humana y la persona en la era de la inteligencia artificial. Todo está muy bien hilado», resalta.

En uno de los pasajes de la encíclica, el papa advierte contra el equívoco de equiparar las inteligencias artificiales a la humana: las primeras «no viven una experiencia, no poseen un cuerpo, no pasan por la alegría y el dolor, no maduran en las relaciones ni conocen desde dentro lo que significan el amor, el trabajo, la amistad y la responsabilidad. Tampoco tienen una conciencia moral: no juzgan el bien y el mal, no captan el sentido último de las situaciones ni asumen el peso de las consecuencias». Añade que las IA aprenden «de modo diferente al de la persona humana», no mediante la experiencia, que incluye «decisiones, errores, perdón y fidelidad», sino mediante «una adaptación estadística a partir de datos y retroalimentaciones» que «no implica un crecimiento interior».

"Cuando empecé a leerla me sorprendió que estuviera tan bien hecha"

Carmen Villarroel

— Abogada experta en protección de datos, privacidad e inteligencia artificial

Además, León XIV apunta que «la lA tiende a aumentar sobre todo el poder de quien ya dispone de recursos económicos, competencias y acceso a los datos», y advierte que «la propiedad de los datos no puede confiarse sólo al sector privado» y «debe reglamentarse».

La abogada experta en IA afirma que el papa demuestra estar alineado con los fundamentos de la teoría académica trasladada a los textos legales de la Unión Europea, que es pionera en este ámbito regulatorio. «Hay párrafos de la encíclica que podrían ser perfectamente uno de los considerandos del Reglamento de Inteligencia Artificial», señala la jurista. «El reglamento se va a medidas concretas; por ejemplo, exige a las empresas que desarrollen sistemas de IA de alto riesgo que realicen una valoración de riesgos. El papa no va a poner eso en su encíclica, pero todo lo que desarrolla podría estar en la exposición de motivos de los reglamentos –lo que llamamos considerandos–, que es lo que estructura el mundo legal y la investigación sociológica», agrega.

Carmen Villarroel destaca también dos citas de la encíclica: una del escritor J.R.R. Tolkien en «El Señor de los Anillos», para reflexionar sobre la responsabilidad humana frente al avance de la inteligencia artificial y la tecnología («No nos atañe a nosotros dominar todas las mareas del mundo, sino hacer lo que está en nuestras manos por el bien de los días que nos ha tocado vivir»); y otra de la filósofa Hannah Arendt que utiliza para alertar sobre cómo la desinformación y el control algorítmico pueden allanar el camino hacia el totalitarismo: «Los súbditos ideales no son tanto aquellos ideológicamente convencidos, sino las personas para quienes ya no existe la distinción entre el hecho y la ficción (es decir, la realidad de la experiencia) y la distinción entre lo verdadero y lo falso (es decir, las normas del pensamiento)».

Para leer la encíclica «Magnífica humanitas», que se puede encontrar aquí, Carmen Villarroel propone esta guía de lectura:

- Dignidad humana, derechos humanos y solidaridad: párrafos 51-67

- Justicia social y desarrollo humano: párrafos 79-85

- Tecnología, inteligencia artificial y poder: párrafos 90-101

- Responsabilidad, transparencia y gobernanza: párrafos 102-111

- Humanidad e IA: párrafos 112-116

- Verdad, democracia y educación: párrafos 132-146

- Trabajo, economía y dignidad humana: párrafos 150-164

- Datos, esclavitud y control social: párrafos 170-178

- Poder, guerra e IA: párrafos 188-200

- ¿Qué podemos hacer nosotros?: párrafos 212-226

Suscríbete para seguir leyendo