By R. R. Reno
[Para un traducción en español, clic aquí]
By my reckoning, it is the seduction of simulation—not real enough to impose demands on our humanity, yet real-seeming enough for us to imagine that we’re still living as human beings—that constitutes the most profound threat
Pope Leo XIV’s encyclical on technology and the human person, Magnifica Humanitas, offers a measured assessment of the ongoing digital revolution, giving special attention to artificial intelligence, its current cutting edge. The encyclical’s ambitions are modest, as they should be. We are only beginning to grasp the promise and peril of machines that can perform in ways so human-like that we’re driven to wonder about the future of our humanity.
Considerations of justice are the main emphasis of Magnifica Humanitas. Leo’s opening meditation on the Tower of Babel and the walls of Jerusalem echoes today’s conventional language of social justice. Will technologies remain in the hands of a powerful few, leading to “exclusions, manipulations and inequalities” (Babel)? Or will we use them to raise up a society of solidarity, fraternity, and inclusion (Jerusalem)?
These are important questions. But they do not reach far enough. In its earliest formulations, the modern Catholic tradition of social doctrine had larger concerns. Leo XIII was the first pope to assess challenges posed by modern industrial economies. He certainly aimed for equitable distribution of its economic benefits and warned about the dangers of oppression. But he saw a deeper threat as well. The stable structures of traditional society—its guilds, confraternities, and traditions of solidarity and mutual care—were being dissolved. The family itself was newly vulnerable in the fluid world of economic relations. As Karl Marx wrote in the Communist Manifesto, “All that is solid melts into air.”
Magnifica Humanitas hints at something similar. It’s not just that AI imperils settled expectations about employment, concentrates power in the hands of private companies, and provides tools for unprecedented social control. It invades and destabilizes our sense of what it means to be a creature, to live an embodied life.
Leo XIV cites his immediate predecessor’s concerns about the “technocratic paradigm.” By this phrase, Pope Francis meant the outlook that treats all aspects of reality as raw material for manipulation and refashioning, including persons, and even human nature. Under this paradigm, “human beings are tempted to see themselves as a project to be optimized.”
We are well along in this project. The gay rights movement presumes our bodies to be available for pleasures of our own choosing without regard to moral limits, purporting to optimize individual happiness. Transgender ideology views our bodies as ready for radical transformation without regard to physical limits, again purporting to make people happy. And we are optimizing the species as well. Contemporary care for pregnant women involves many tests designed to expose genetic defects in the unborn child, and women are often counseled to abort, should test results indicate problems. This eugenic project is made even more explicit in embryo selection for in vitro fertilization. Meanwhile, at the end of life, doctor-assisted suicide dispenses with those whose prospects are dim. We are indeed seeking to optimize human beings in many domains.
St. Augustine shaped our spiritual imaginations by identifying pride as the first among the deadly sins. Giving pride of place to pride, we are likely to interpret the drive toward what Magnifica Humanitas calls “enhanced human being” as a Promethean effort to seize control of our destiny, not just as individuals, but as a species. That may well be the case in some circumstances. But there is another side to the technocratic paradigm and its drive toward optimization. Most people are not seeking to enlarge themselves; they wish to protect themselves. The impulse is not to control our created nature and overleap its limits, but to escape, to insulate, and to palliate. The ambition is not to become bigger; we seek to become smaller, less perilously engaged, less vulnerable to disappointments, more independent of our bodies. It is a spirit of retreat, not of advancement.
Therein lies the greatest danger of AI. Leo XIV makes the necessary observation that machine “intelligence,” however powerful in certain domains, is not the same as human intelligence. “So-called artificial intelligences do not undergo experiences, do not possess a body, do not feel joy or pain, do not mature through relationships and do not know from within what love, work, friendship or responsibility mean.” All true. Yet note well: Experiences often come unbidden, and they can be painful. Our bodies are vulnerable and mortal. Relationships can result in grave inner wounds. Love often brings anguish. Work can weary the soul and responsibility can become a burden. Truth be told, the fact that AI lacks these human qualities can seem appealing.
Disembodied and soulless, AI is all the more seductive because it simulates many essential dimensions of our humanity. It presently offers “companions” who can be trusted to remain always sympathetic, unlike human beings, who are often distracted, indifferent, even duplicitous. As it develops, AI will offer us the possibility of more advanced simulated experiences and relationships and even embodiments that seem “real enough,” yet unburdened of the gravity of reality. We can have virtual friends that won’t betray us and for which we need never make sacrifices. Or digital lovers that provide thin satisfaction, while remaining unreal enough to leave our hearts alone. As the technology advances, we can have adventures without risk, travel without dislocation, and aggression without consequences.
Again, we’re already advancing down this path. Social media invite us into an ethereal, disembodied world of social connection and bitter ideological conflict. A platform like X satisfies aggressive desires while sparing combatants the knowledge of the consequences of their blows—consequences that, if seen, might unsettle their consciences. By many accounts, for the rising generation, digital pornography now substitutes for sexual relations in the flesh. For some, becoming an online “influencer” is the supreme vocational ambition.
Magnifica Humanitas seems to take for granted a human desire not to be dehumanized. It’s certainly true that most do not wish to be degraded, enslaved, or abused. But as Leo XIV continues to reflect on today’s digital revolution, he should not discount the allure of a moderate but pervasive dehumanization, especially as it is palliated by countless substitutes for the kinds of things necessary for us to live as human beings. Idolatry has these characteristics. It simulates worship in a way that is both fake and yet real enough to satisfy, however vaguely, our longing to know and honor something greater than ourselves. By my reckoning, it is the seduction of simulation—not real enough to impose demands on our humanity, yet real-seeming enough for us to imagine that we’re still living as human beings—that constitutes the most profound threat.
///////////////////////////////////////////////////////////////////////////////////////////////
[Spanish]
La encíclica del papa León XIV sobre la tecnología y la persona humana, Magnifica Humanitas, ofrece una valoración ponderada de la actual revolución digital, prestando especial atención a la inteligencia artificial, su manifestación más avanzada en la actualidad. Las aspiraciones de la encíclica son modestas, como deben serlo. Apenas estamos comenzando a comprender tanto las promesas como los peligros de unas máquinas capaces de actuar de formas tan semejantes a las humanas que nos obligan a preguntarnos por el futuro de nuestra propia humanidad.
Las consideraciones sobre la justicia constituyen el eje principal de Magnifica Humanitas. La meditación inicial de León XIV sobre la Torre de Babel y las murallas de Jerusalén evoca el lenguaje habitual de la justicia social contemporánea. ¿Permanecerán las tecnologías en manos de unos pocos poderosos, dando lugar a «exclusiones, manipulaciones y desigualdades» (Babel)? ¿O las utilizaremos para edificar una sociedad fundada en la solidaridad, la fraternidad y la inclusión (Jerusalén)?
Estas son cuestiones importantes. Pero no llegan lo bastante lejos. En sus primeras formulaciones, la tradición moderna de la doctrina social católica tenía preocupaciones de mayor alcance. León XIII fue el primer papa que afrontó los desafíos planteados por las economías industriales modernas. Sin duda, buscó una distribución equitativa de sus beneficios económicos y advirtió sobre los peligros de la opresión. Pero también percibió una amenaza más profunda. Las estructuras estables de la sociedad tradicional —sus gremios, cofradías y tradiciones de solidaridad y ayuda mutua— se estaban disolviendo. La propia familia se volvió especialmente vulnerable en el mundo cambiante de las relaciones económicas. Como escribió Karl Marx en el Manifiesto Comunista, «todo lo sólido se desvanece en el aire».
Magnifica Humanitas insinúa algo semejante. No se trata únicamente de que la inteligencia artificial ponga en peligro las expectativas consolidadas sobre el empleo, concentre el poder en manos de empresas privadas y proporcione instrumentos para un control social sin precedentes. También invade y desestabiliza nuestra comprensión de lo que significa ser una criatura, vivir una existencia encarnada.
León XIV cita las preocupaciones de su inmediato predecesor acerca del «paradigma tecnocrático». Con esta expresión, el papa Francisco se refería a una visión que considera todos los aspectos de la realidad como materia prima susceptible de ser manipulada y remodelada, incluidas las personas e incluso la propia naturaleza humana. Bajo este paradigma, «los seres humanos se sienten tentados a verse a sí mismos como un proyecto susceptible de ser optimizado».
Ya hemos avanzado considerablemente por ese camino. El movimiento por los derechos de los homosexuales presupone que nuestros cuerpos están disponibles para los placeres que libremente elijamos, sin consideración por los límites morales, con la pretensión de optimizar la felicidad individual. La ideología de género considera nuestros cuerpos aptos para una transformación radical sin atender a los límites físicos, también con la promesa de hacer felices a las personas. Y no solo optimizamos a los individuos, sino también a la especie. La atención médica contemporánea a las mujeres embarazadas incluye numerosas pruebas destinadas a detectar anomalías genéticas en el niño por nacer, y con frecuencia se aconseja abortar cuando los resultados revelan algún problema. Este proyecto eugenésico se hace todavía más explícito mediante la selección de embriones en la fecundación in vitro. Al mismo tiempo, al final de la vida, el suicidio asistido por un médico prescinde de quienes tienen escasas perspectivas de recuperación. En efecto, estamos intentando optimizar al ser humano en múltiples ámbitos.
San Agustín configuró nuestra imaginación espiritual al identificar la soberbia como el primero de los pecados capitales. Si otorgamos a la soberbia ese lugar preeminente, es fácil interpretar el impulso hacia lo que Magnifica Humanitas denomina el «ser humano mejorado» como un esfuerzo prometeico por apoderarnos de nuestro destino, no solo como individuos, sino como especie. En determinadas circunstancias, sin duda puede ser así. Pero existe otra dimensión del paradigma tecnocrático y de su impulso hacia la optimización. La mayoría de las personas no busca engrandecerse; desea protegerse. El impulso no consiste en dominar nuestra naturaleza creada y sobrepasar sus límites, sino en escapar, aislarse y mitigar el sufrimiento. La ambición no es llegar a ser más grandes; buscamos hacernos más pequeños, exponernos menos a los riesgos, ser menos vulnerables a las decepciones y depender menos de nuestros cuerpos. Es un espíritu de retirada, no de avance.
Ahí reside el mayor peligro de la inteligencia artificial. León XIV observa acertadamente que la «inteligencia» de las máquinas, por poderosa que sea en determinados ámbitos, no es lo mismo que la inteligencia humana. «Las llamadas inteligencias artificiales no viven experiencias, no poseen un cuerpo, no sienten alegría ni dolor, no maduran a través de las relaciones y no conocen desde dentro lo que significan el amor, el trabajo, la amistad o la responsabilidad». Todo ello es cierto. Pero conviene advertir algo más: las experiencias muchas veces llegan sin ser buscadas, y pueden ser dolorosas. Nuestros cuerpos son vulnerables y mortales. Las relaciones pueden causar profundas heridas interiores. El amor suele traer consigo sufrimiento. El trabajo puede agotar el alma y la responsabilidad convertirse en una carga. A decir verdad, el hecho de que la inteligencia artificial carezca de estas cualidades humanas puede resultar atractivo.
Desprovista de cuerpo y de alma, la inteligencia artificial es tanto más seductora cuanto que simula muchas dimensiones esenciales de nuestra humanidad. Ya ofrece «compañeros» en quienes podemos confiar porque siempre se muestran comprensivos, a diferencia de los seres humanos, que con frecuencia están distraídos, son indiferentes o incluso desleales. A medida que evolucione, la inteligencia artificial nos ofrecerá experiencias simuladas, relaciones simuladas e incluso formas de encarnación que parecerán «lo bastante reales», pero estarán libres del peso de la realidad. Podremos tener amigos virtuales que nunca nos traicionen y por los que jamás debamos sacrificarnos. O amantes digitales que proporcionen una satisfacción superficial, permaneciendo, sin embargo, lo bastante irreales como para no comprometer nuestro corazón. Conforme avance la tecnología, podremos vivir aventuras sin riesgo, viajar sin desplazarnos y ejercer la agresividad sin consecuencias.
De hecho, ya estamos recorriendo ese camino. Las redes sociales nos invitan a un mundo etéreo y desencarnado de conexiones sociales y de amargos enfrentamientos ideológicos. Una plataforma como X satisface los impulsos agresivos mientras evita que quienes participan en ellos conozcan las consecuencias de sus ataques; consecuencias que, si llegaran a contemplarlas, quizá removerían su conciencia. Según numerosos testimonios, para las nuevas generaciones la pornografía digital está sustituyendo las relaciones sexuales reales. Para algunos, convertirse en «influencer» constituye la máxima aspiración profesional.
Magnifica Humanitas parece dar por supuesto que el ser humano desea no ser deshumanizado. Es cierto que la mayoría de las personas no quiere ser degradada, esclavizada o maltratada. Pero, mientras León XIV continúa reflexionando sobre la revolución digital de nuestro tiempo, no debería subestimar el atractivo de una deshumanización moderada pero generalizada, especialmente cuando viene suavizada por innumerables sustitutos de aquellas realidades que necesitamos para vivir plenamente como seres humanos. La idolatría posee precisamente estas características. Simula el culto de un modo que es falso y, sin embargo, suficientemente convincente como para satisfacer, aunque sea vagamente, nuestro deseo de conocer y honrar algo superior a nosotros mismos. A mi juicio, es precisamente la seducción de la simulación —no lo bastante real como para imponernos las exigencias propias de nuestra humanidad, pero sí lo bastante verosímil como para hacernos creer que seguimos viviendo como seres humanos— la que constituye la amenaza más profunda.