De manera breve se aborda en este artículo qué es la ilustración oscura, para lo cual se retoma la encíclica “Magnífica humanidad” del Papa León XIV, documento en el cual el Pontífice reflexiona sobre el tema de la Inteligencia artificial (IA) y sus efectos sobre la persona y la sociedad y que bien puede ser considerada como una crítica directa de la ilustración oscura y algunas de sus apuestas.
Hace unos años Javier Milei dijo en un programa de televisión que el Papa Francisco era “el representante del maligno en la Tierra”, además de tildarlo de defensor del comunismo. Al respecto uno puede preguntarse: ¿fue esta declaración producto del delirio de un loco, de un desquiciado? ¿Fue un lapsus ocurrido en medio de la euforia en una entrevista? O ¿tiene la declaración una connotación más seria, más profunda?, ¿estaba anclada, en verdad, en el sistema de creencias del entonces candidato? En efecto, no fue un lapsus ni nada parecido. La declaración de Milei se inscribe, de hecho, en toda una filosofía, un sistema bastante abierto y heterogéneo en el que se mezclan anarcocapitalismo, libertarismo, aceleracionismo, transhumanismo y el deseo de destruir la democracia y corporativizar el Estado. Esta corriente se conoce hoy, a partir del libro del filósofo inglés Nick Land, como la “Ilustración oscura” (1). Milei comparte varios presupuestos de esa corriente, entre ellos, la necesidad de desregularizar el capital, la crítica del Estado, la crítica de la justicia social, la cual es considerada por el presidente argentino como “una aberración”, y la aversión por los controles democráticos. Las palabras virulentas de Milei contra Francisco se entienden, entonces, si comprendemos que ese Papa abogó por el control estatal de la economía, la responsabilidad tecnológica, la defensa de la justicia y, desde luego, el vehemente llamado a“cuidar la casa común” (2), llamado que fue en su momento una especie de ecología radical.
La ilustración oscura y el reseteo del orden vigente
En el Manifiesto tecno-optimista (2023)de Marc Andreessen, dueño de la sociedad de capital de riesgo Andreessen Horowitz, uno de los fondos más importantes de Silicon Valley, se plantea la necesidad de superar al “último hombre”, al hombre moderno y mediocre que teorizó Nietzsche en sus obras. La misión consistiría en crear el superhombre tecnológico, donde existiría una prolongación técnica de la mente humana “a través de la inteligencia artificial” (3). Se busca, igualmente, superar la mortalidad, la condición finita del humano. Estas posturas transhumanistas y poshumanistas exigen la eliminación de todos los límites regulativos de los Estados y los poderes públicos, la Organización Mundial de la Salud, y de cualquier institución, así sea la mismísima FDA (US. Food and Drug Administration). De hecho, Peter Thiel, el creador de Paypal y de la controvertida empresa Palantir, aceleracionista y anarcocapitalista, sostiene que los llamados límites del crecimiento, que publicó (con otros) Dennis L. Meadows en 1972, ha generado un atraso para la humanidad. El ecologismo y los hippies, a su parecer, vencieron, y han frenado el progreso tecnológico. Desde esta perspectiva Greta Thunberg, activista ambiental conocida en todo el mundo, es una especie de Anticristo.
Como dice Fernández liria en su magnífico libro Contra la ilustración oscura: “Peter Thiel […] está a favor de la completa privatización del poder, de la sustitución de cualquier poder público (incluido el militar) por los poderes privados” (4).Si se privatiza el poder, incluido el militar, lo cual crearía una sociedad militarizada, securitista, con una vigilancia especializada omnipresente, realizada por medio de una superinteligencia artificial que opere a nivel global, y así eliminar a los críticos y a los indeseados (la izquierda, los comunistas los socialistas, los ambientalistas, etcétera.), se estaría realizando la utopía de la prisión a cielo abierto; y, además, sería el fin de la democracia. Sería, más exactamente, la llegada del tecnofacismo. Por eso es que Peter Thiel, un abogado y Doctor en Filosofía, lanzó la polémica frase: “no creo que la libertad y la democracia sean compatibles”. Lo que en verdad se quiere decir es que la democracia no es compatible con la libertad que exige el mercado, ni con la libertad para experimentar sin límites con la ciencia, la tecnología, la ingeniería genética, etcétera, lo cual es requerido para definir nuestro futuro biónico o, incluso, para superar la especie humana. Y si los controles políticos y democráticos les molesta a estos tecnobillonarios, hay que partir para marte, como propone Elon Musk, o construir ciudades en altamar, en aguas internacionales para así poder escapar a las regulaciones estatales.
En realidad, estos tecnobillonarios, entre quienes está el bloguero Curtis Yarvin, de TIon Corporation, desean sustituir al Estado mismo y su control, regulación y vigilancia; o, a lo sumo, crear archipiélagos de Estados conectados en red: los network state. El Estado puede ser una monarquía digital, dirigido por un CEO, un genio de los negocios como ellos, y los parlamentos pueden ser sustituidos por juntas. Los ciudadanos se vincularían como clientes a la nueva estructura. La solución es, entonces, “que una aristocrática élite mundial tome el control del desarrollo tecnológico”. En todo este proyecto “se trata de acabar por completo con el actual orden internacional y sustituirlo por una ocurrencia mejor: un orden libertario radical sin Estados, un sueño anarcocapitalista en el que no habría más que individuos y corporaciones privadas. Es, ante todo, el fin del ordenamiento institucional que edificó la ilustración” (5). Si la Ilustración –con sus límites– nos legó los Derechos del Hombre y del Ciudadano, con las promesas de libertad, igualdad y fraternidad; si legó la crítica, la democracia liberal y la división y el control entre los poderes, lo que buscan los oligarcas tecnológicos de la “ilustración oscura” es destruirla; son neorreaccionarios contra ese orden que les estorba. Por eso la ilustración ha sido derrotada por el mercado, el capitalismo y su sueño tecnológico.
Los magnates actuales, entre los cuales están incluidos los dueños de las grandes plataformas tecnofeudalistas y empresas de tecnología (Amazon, Apple, Microsoft, OpenAI), desean resetear el mundo, llevar sus tensiones al extremo para generar un nuevo orden social y político; muchos de ellos están ligados a los gobiernos de ultraderecha que crecen en el mundo y en América Latina. Argentina, Colombia y Ecuador no escapan a estos riesgos: ellos ya están aquí.
La defensa de la persona humana y el cuidado del mundo en la encíclica de León XIV
La encíclica de León XIV sobre la inteligencia artificial es un llamado al cuidado, un tema que se puso al orden del día después de la pandemia. De ahí su subtítulo: “Sobre la custodia de la persona humanaIen el tiempo de la Inteligencia artificial”. Además del cuidado del mundo o de la casa común, el cual es condición de posibilidad de la reproducción de la vida del planeta y todas sus formas vivas, sus biotipos, el documento eclesial busca enfatizar la necesidad de cuidar la persona humana.
Este llamado comporta la exaltación y valoración de la humanidad misma. Frente al nihilismo y las posturas poshumanistas, la encíclica retoma la idea que dignifica y estima positivamente al ser humano. Esto solo es posible si el evangelio está “a la altura de los tiempos”, si se trata de una Iglesia “en camino en la historia de la humanidad”. Por eso, desde el comienzo se deja claro que “nadie puede exigirnos que releguemos la religión a la intimidad secreta de las personas, sin influencia alguna en la vida social y nacional, sin preocuparnos por la salud de las instituciones de la sociedad civil, sin opinar sobre los acontecimientos que afectan a los ciudadanos” (6). Así que se reivindica una Iglesia untada de mundo que no se preocupa exclusivamente por el alma, lo cual se desprende de la Doctrina Social de la Iglesia (en adelante DSI), expresión usada por primera vez por Pio XII en 1950, pero cuyos contenidos sociales se remontan a la famosa encíclica Rerum novarun del papa León XIII (de quien el actual Papa toma su nombre), publicada en 1891.
Debe quedar claro que la DSI no es un conjunto de recetas y soluciones para resolver los problemas de la sociedad, ni la Iglesia busca sustituir el papel del Estado o de las instituciones, tampoco “las responsabilidades de la política”. No. Debe entenderse como un “apoyo al discernimiento común”, al esclarecimiento de la realidad a la luz de la verdad del evangelio, para así contribuir a orientar la acción de los humanos.Concretamente lo que busca la encíclica es leer la IA y sus efectos y aplicaciones a la luz de los fundamentos y de los principios de la DSI. Dice León XIV: “Ante estas transformaciones, debemos recurrir a los principios de la DSI”. Estos son: la dignidad de la persona, el bien común, el destino universal de los bienes, la subsidiariedad, la solidaridad y la justicia. Estos operan como “criterios para juzgar si las tecnologías sirven realmente a la humanidad o terminan por someterla, y considerarlas como orientaciones para nuestras decisiones” (7). Por ejemplo, esos principios podrían traducirse en una “planificación responsable, evaluación del impacto humano y social, inclusión de los más frágiles, alfabetización digital, investigación e industria orientadas a la justicia y la paz” (8).
Esto implica que León XIV no sostiene una postura tecnofóbica. Al respecto dice: “la tecnología puede curar, conectar, educar, cuidar la Casa común; pero también puede dividir, descartar, generar nuevas injusticias […] concretamente, no es neutral, porque toma el rostro de quien la concibe, la financia, la regula, la utiliza” (9). Por eso, sostiene, la primera elección no es entre un “si o un no” a la tecnología, sino en si la usamos para el bien o para el mal. Aquí el Papa acude a dos imágenes bíblicas que atravesarán sus reflexiones en toda la encíclica. La primera, es la conocida historia de la Torre de Babel, donde la soberbia humana, sin temor a Dios, crea obras desmesuradas, que luego provocan la falta de entendimiento lingüístico entre los humanos, por eso reina el caos y la incomprensión: “Babel revela así el límite de toda construcción que, por grandiosa que sea, surge de la absolutización de lo humano y de su pretensión de autosuficiencia, sacrifica la dignidad de las personas en aras de la eficiencia y aspira a alcanzar el cielo sin la bendición de Dios”. La otra imagen bíblica es la “reconstrucción de los muros de Jerusalén”. Aquí el nombre de Nehemías cobra protagonismo porque él, siendo un judío al servicio del rey persa Artajerjes, “antes de actuar ayuna, reza e intercede por el pueblo”, “no impone soluciones desde lo alto. Convoca a las familias, confía a cada una un tramo de la muralla para reconstruir, escucha los temores, coordina los esfuerzos […]. El relato muestra cómo la ciudad renace no gracias a la iniciativa de una sola persona, sino a través de la responsabilidad compartida de todo el pueblo: sacerdotes, artesanos, jefes de familia, mujeres y jóvenes” (10). Así que frente a la tecnología y a la IA podemos tomar tanto el camino de la soberbia y la destrucción ejemplificada en la Torre de Babel, como el de Nehemías y la comunión, el trabajo compartido, la reflexión colectiva, y la edificación en comunidad. En suma, el Papa no lo dice así, pero podemos inferir que nos invita a generar entramados comunitarios, democráticos, donde impera el compromiso, la construcción de lo común y la restauración de lo que llamo “la sinapsis vital del mundo” (11).
La IA y sus efectos
En el texto Antiqua et nova el Papa Francisco sostuvo: “el uso mismo de la palabra inteligencia en referencia a la IA es engañoso y corre el riesgo de descuidar lo más valioso de la persona humana. Desde esta perspectiva la IA no debe verse como una forma artificial de la inteligencia, sino como uno de sus productos” (12). Esta afirmación del Papa es clave porque marca la perspectiva desde la cual es mirado el problema al interior de la Iglesia, aunque no solo dentro de ella. Porque lo que debe quedar claro es que la llamada IA es un producto humano, incluso una herramienta. La IA es producto de la inteligencia natural y por eso mismo no puede ser equiparado con ella, como sostiene Antonio Damasio (13). Dice al respecto el Papa León XIV: “Estos sistemas imitan ciertas funciones de la inteligencia humana. Al hacerlo, a menudo la superan en velocidad y amplitud de cálculo […] y, sin embargo, esta potencia sigue ligada exclusivamente al tratamiento de datos: las denominadas inteligencias artificiales no viven una experiencia, no poseen un cuerpo, no pasan por la alegría y el dolor, no maduran en las relaciones ni conocen desde dentro lo que significan el amor, el trabajo, la amistad y la responsabilidad” (14) .
La IA no es un sujeto y no puede tener experiencia: ese contacto inicial y afectivo con el mundo y con la complejidad y diversidad de la realidad. Por eso mismo, son incapaces de pensar (pues también pensamos con el cuerpo, las entrañas) y de juzgar moralmente. No tienen juicio moral, si bien no son neutras, pues pueden arrastrar los sesgos racistas, machistas, de clase, etc., contenida en la información o en los datos con los cuales fueron entrenadas o alimentadas, es decir: “también reflejan y refuerzan estereotipos o posiciones ideológicas de quienes [la] han diseñado y programado”.
En este orden de ideas es importante pensar los efectos de la IA en distintos campos evaluándolos a la luz de los principios de la DSI ya mencionados. Por ejemplo, si miramos los principios del bien común y del destino universal de los bienes (agua, aire, genoma, información, etc.) es claro que “la IA tiende a aumentar sobre todo el poder de quien ya dispone de recursos económicos, competencias y acceso a datos”. El resultado de ello, es que podemos tener “pequeños grupos muy influyentes que pueden orientar informaciones, consumos, condicionar procesos democráticos e incidir en las dinámicas económicas en beneficio propio, contradiciendo la justicia social y la solidaridad entre los pueblos” (15). Este párrafo es central porque inquiere por quién programa, cómo obtiene los datos, la información, cómo la usa, para qué intereses. Sobre todo, permite preguntar por el poder que la IA otorga a quien la posee y la utiliza: hoy es claro que se usa en el mercado para la venta de productos y que nuestros datos son utilizados para crear perfiles de consumidor (psicogramas) y perfiles electorales; que los bots y los enjambres digitales crean y movilizan preferencias en las redes sociales, pero no sabemos, o no estamos seguros, como en Colombia, si la IA puede alterar, por ejemplo, los procesos electorales y, anular así, la voluntad popular y democrática de los ciudadanos facilitando ciberfraudes.
Para el Papa León XIV es claro que la IA opera bajo lo que él llama “el paradigma tecnocrático”, esto es, un paradigma donde el poder de la tecnología permite el control, el gobierno y el dominio, el cual puede ser usado para violar la dignidad de la persona y los derechos humanos. En este paradigma las personas son cosas, materia y datos medibles, manejables, utilizables y aprovechables. El ser humano es parte de un enjambre digital, donde opera y cumple una función. Este trato atenta contra la dignidad de la persona humana como creatura de Dios; igualmente, dado que los servidores de la IA consumen grandes cantidades de recursos, como agua o tierras raras, la explotación indiscriminada de los mismos atenta contra el planeta, contra la casa común y, en ese sentido, contra la obra divina.
Especial atención presta el Papa a los efectos de la IA sobre la verdad, el trabajo y la libertad humana. En el primer caso, como es bien sabido, la IA ha permitido amplificar las Fake News. Esto ha afectado la democracia, los medios de comunicación y la educación misma. En este sentido, la apuesta de León XIV es recuperar el valor de la verdad como bien común, o lo que hemos llamado el valor social de la verdad. Ello exige un periodismo serio, la búsqueda de la verdad en la investigación, y un diálogo público sincero y abierto, argumentado, para fortalecer la democracia. Las instituciones, la escuela y la familia deben hacer una alianza para el uso adecuado de las tecnologías por parte de las infancias y deben establecer límites de edad para su uso. Por otro lado, en el campo del trabajo, debido al desempleo causado por la IA, debe primar la dignidad de la persona y el valor del trabajo sobre la eficiencia, el afán de lucro y el rendimiento de las empresas, por eso “el objetivo de obtener mayores beneficios no puede justificar decisiones que sacrifiquen sistemáticamente el empleo” (16). La economía no puede estar por encima de la dignidad humana. Y, por último, especial atención pone el Papa al uso de los datos para tomar decisiones que afecten a las personas y les impida el acceso a los servicios públicos, créditos u otros bienes. En estos casos, el control social atenta contra la libertad positiva de la persona, no la escucha, la deja sin posibilidad de defenderse o refutar, y la condena al ostracismo social soslayando el perdón, la caridad o la compasión evangélicas. El Papa no lo dice, pero parece pensar aquí en el modelo chino del “crédito social” mediante el cual se premia o se castiga al ciudadano.
Finalmente, el Papa se centra en el uso de la IA en la guerra; en las formas de deshumanización e impersonalidad que esta confiere a los actos bélicos, y a la manera como el uso de la IA puede fomentar el odio, la desinformación, movilizar el miedo, que azuzan la guerra y que, incluso, la normalizan. Al automatizar la guerra, la responsabilidad de los agentes se diluye, se vuelve opaca o se oculta. Por eso, en términos generales, León XIV llama a una regulación de la IA, a aplicar el principio de responsabilidad y transparencia entre quienes la desarrollan, quienes las usan, quienes toman las decisiones basándose en sus resultados, y en seguir una cadena de responsabilidad verificable en cada estación del uso de la IA. De esta manera, todo se hace transparente para la ciudadanía. Así mismo, llama a no invisibilizar a todos aquellos que la alimentan y que suelen estar precarizados, ni a desconocer el desgaste material del mundo que la IA provoca y que atenta contra la casa común, el planeta.
El Papa contra la Ilustración oscura
La IA es, tal vez, el producto más acabado de la revolución digital. Lo es tanto que alimenta narrativas como la de la digitalización de la conciencia; o que, gracias a sus usos y aplicaciones en campos como la biotecnología, pueda lograr la superación de la mortalidad y la finitud humanas. El Papa León se refiere a estos aspectos en la encíclica al hablar del poshumanismo y del transhumanismo. Al respecto dice: “una cosa es integrar las tecnologías en una visión humana y relacional; otra es dejarse guiar por un imaginario que desprecia el límite y promete una salvación puramente técnica” (17). El mensaje es claro: no se trata de una superación de la persona, de lo humano, porque esa mirada desecha la criatura de Dios y pretende “superarla” en una nueva especie. Para el Papa, se trata más bien de aceptar y reconocer nuestros límites y nuestra vulnerabilidad. Justamente, se trata de “custodiar lo humano”. En este sentido, esta postura rechaza los sueños aceleracionistas y prometeicos de Peter Thiel y su ilustración oscura. Permite pensar en que, antes de migrar hacia otros planetas, como piensa Musk, deberíamos cuidar este y no tratarlo como algo prescindible y desechable.
La encíclica del Papa no renuncia a la necesidad de regular la tecnología y las demás innovaciones humanas. Estas deben estar al servicio de la humanidad y del planeta. Por eso, continúan siendo necesarios el papel del Estado (pero no un estadocentrismo), la democracia, el papel de los poderes públicos y la subordinación de la economía y el capitalismo a la vida. Ello implica luchar por el bien común superando los deseos oligárquicos de los tecnomagnates, y abogar por la construcción y el mantenimiento de un orden internacional y un multilateralismo que asegure un orden global justo, sin países sometidos a poderes extranjeros. En todos estos aspectos la encíclica se convierte en un antídoto contra los sueños de “la ilustración oscura”. Mas bien, su apuesta es la de Nehemías, la de construir y reconstruir un orden donde podamos vivir juntos.
1. Land, Nick. La ilustración oscura y otros ensayos sobre la neorreacción. Materia Oscura Editorial, 2022.
2. Pachón, Damián. El pensamiento social del Papa Francisco. Franciscanum 58 (266), p. 317-337, 2016.
3. Fernández Liria, Carlos. Contra la ilustración oscura. Marx y Nietzsche frente al transhumanismo aceleracionista. Barcelona, Arpa, 2026, p. 40.
4. Ibíd., p. 41.
5. Ibíd., p. 50.
6. Francisco citado por León XIV. Magnífica humanitas. (Sobre la custodia de la persona humana en tiempos de la inteligencia artificial). Contiene Antiqua et nova del Papa Francisco. Bogotá, Desde abajo, 2026, p. 17.
7. Ibíd., p. 81.
8. Ibíd., p. 16.
9. Ibíd., p. 14.
10. Idídem.
11. Pachón, Damián. La recomunalización y la sinapsis vital del mundo. El último Marx, Mariátegui y los retos del presente. Investigación producto del año sabático. Inédita.
12. Francisco, Antiqua et nova, en Magnífica humanitas, op. cit., pp. 119-120.
13. Damasio, Antonio. Inteligencia natural y la lógica de la consciencia. Bogotá, Planeta, 2026, p. 166-167.
14. León XIV, Op. Cit., p. 49.
15. Ibíd., pp. 52-53.
16. Ibíd., p. 68
17. Ibíd.,p. 56.
* Profesor Titular Universidad Industrial de Santander, Profesor Visitante Asociado de la Kobe City University (Japón).
