Rubén Chaia
Un diálogo entre el magisterio del papa Francisco ante el G7,
el historiador Yuval Noah Harari y el filósofo Daniel Innerarity.
1-Introducción: El 14 de junio de 2024, el papa Francisco se dirigió a los líderes del G7 reunidos en Borgo Egnazia (Italia) con un discurso centrado en los efectos de la inteligencia artificial (IA) sobre el futuro de la humanidad. Lejos de limitarse a una advertencia moral genérica, el discurso plantea una tesis técnica y filosófica precisa: los algoritmos que gobiernan la IA no son instrumentos neutrales, y esa falta de neutralidad tiene consecuencias concretas sobre la justicia, la educación y la propia idea de dignidad humana.
Esta misma tesis —la no neutralidad de la tecnología— es el punto de partida de dos autores contemporáneos que han estudiado la IA desde ángulos distintos pero convergentes: el historiador israelí Yuval Noah Harari, en Homo Deus (2016) y Nexus (2024), y el filósofo político español Daniel Innerarity, en Una teoría crítica de la inteligencia artificial (2025) y en el ensayo Inteligencia Artificial y Democracia (UNESCO/CLACSO, 2024).
El objetivo de este breve trabajo es analizar cómo estas tres voces, provenientes de diversos roles en la sociedad -magisterio eclesial, historia y la filosofía- coinciden en un diagnóstico común y, a partir de él, en una misma exigencia práctica: si la IA no es neutral, entonces su desarrollo no puede quedar librado a la lógica del mercado ni al criterio exclusivo de quienes la diseñan. Requiere una regulación política deliberada, cuyo fin no sea frenar la innovación sino garantizar que el resultado de esa innovación sea plural y no la imposición de un único modelo cultural, económico o antropológico.
2-La tesis de la no neutralidad tecnológica
2.1 El discurso de Francisco: el algoritmo como elección, no como verdad. Francisco parte de una distinción que estructura todo su argumento: la diferencia entre elegir y decidir. La máquina, explica, elige entre alternativas mediante operaciones algebraicas y correlaciones estadísticas; el ser humano, en cambio, decide, y decidir compromete valores, sabiduría práctica y responsabilidad por las consecuencias. De esta distinción se sigue el núcleo de su crítica: un algoritmo “no está dotado ni de objetividad ni de neutralidad”, porque solo puede examinar aquello que es formalizable en términos numéricos.
El ejemplo que utiliza —programas que asisten a jueces en decisiones de prisión domiciliaria a partir de variables como origen étnico, nivel educativo o historial de infracciones— muestra cómo la reducción de una vida humana a categorías de datos reproduce los prejuicios ya contenidos en esas categorías, mientras ignora la capacidad humana de cambiar y sorprender. La conclusión que extrae no es el rechazo de la tecnología, sino la exigencia de mantener siempre un “control humano significativo” sobre los procesos de decisión que afectan a las personas, hasta el punto de reclamar la prohibición de las armas autónomas letales.
2.2 Harari: el dataísmo y el colapso de la autocorrección. Harari llega a una conclusión estructuralmente idéntica desde otra disciplina. En Homo Deus describe la emergencia de una nueva visión del mundo —el “dataísmo”— que tiende a reducir toda experiencia humana a flujos de información procesables, desplazando el criterio de verdad hacia lo cuantificable. En Nexus profundiza el argumento en clave histórica: ninguna red de información, desde la escritura hasta la IA, ha sido nunca neutral, y el rasgo distintivo de la IA es que puede generar decisiones y contenidos por sí misma, sin que un humano intervenga en cada paso.
El aporte específico de Harari a esta discusión es su énfasis en la autocorrección como condición de toda sociedad democrática sana: una sociedad democrática funciona porque puede detectar sus propios errores y corregirlos a través del debate público, la prensa libre y las instituciones. Su preocupación central es que sistemas de IA opacos, diseñados y controlados por unos pocos actores —estados o corporaciones—, debilitan precisamente esa capacidad de autocorrección, porque sus criterios internos no son plenamente transparentes ni para quienes los usan ni, muchas veces, para quienes los programaron.
2.3 Innerarity: el algoritmo como portador de valores. Innerarity aporta el desarrollo más sistemático de la tesis de no neutralidad. Sostiene explícitamente que las tecnologías de IA no son neutrales, sino que codifican los valores de las personas que las crean y del ecosistema en el que se desarrollan e implementan. En Una teoría crítica de la inteligencia artificial retoma una genealogía que resulta iluminadora: ya Thomas Hobbes, en el siglo XVII, describió al Estado como un automaton, un mecanismo que mide, planifica y calcula, por lo cual la actual gobernanza algorítmica no sería una ruptura absoluta sino la continuación de una tendencia antigua a mediatizar la política mediante instrumentos.
Este matiz histórico es valioso porque templa el tono de excepcionalidad que a veces rodea el debate sobre la IA: para Innerarity, la pregunta relevante no es si la política estará mediada por tecnología —siempre lo estuvo— sino bajo qué condiciones esa mediación resulta compatible con la decisión democrática. Su tesis de síntesis lo resume con precisión: la democracia en la era de la inteligencia artificial ni se va a superar ni se va a suprimir, se va a condicionar.
3-Riesgos de una IA no regulada: los tres frentes de la homogeneización. De la no neutralidad de la IA no se sigue automáticamente un daño; el daño aparece cuando esa falta de neutralidad se despliega sin ningún contrapeso institucional. Los tres autores coinciden en identificar, con matices propios, tres frentes de riesgo:
-Homogeneización epistémica y cultural. Francisco señala que la IA generativa no crea contenido nuevo: busca patrones en macrodatos y los reordena, reforzando las nociones más repetidas —sean o no correctas— y erosionando el proceso educativo, que corre el riesgo de convertirse en repetición antes que en reflexión. Harari llama a este mismo fenómeno, en otros términos, la amplificación de la “cultura dominante” a través de sistemas que aprenden de lo que ya existe en la red.
-Concentración de poder tecnológico. El Papa advierte sobre el “predominio del uso de la inteligencia artificial por parte de las pocas naciones que disponen de ella”, en referencia a la disponibilidad desigual de microchips y capacidad de cómputo. Harari desarrolla el mismo argumento a escala geopolítica: quien controla las redes de datos más potentes concentra un poder que ninguna regulación nacional aislada puede equilibrar. Innerarity lo traduce en términos institucionales al describir la gobernanza algorítmica como una nueva forma —no neutral— de organizar el poder social.
-Erosión de la capacidad de decisión democrática. Es el punto de mayor convergencia entre los tres. Francisco lo formula como el riesgo de “depender de las elecciones de las máquinas”; Harari, como pérdida de la capacidad social de autocorrección; Innerarity lo convierte en pregunta de investigación explícita: hasta qué punto y bajo qué condiciones puede entenderse la delegación de decisiones en sistemas algorítmicos como una forma legítima de control, y no como una renuncia encubierta a decidir.
Estos tres riesgos comparten una misma estructura lógica: no son fallas accidentales de la tecnología, sino consecuencias esperables de dejar que un instrumento no neutral opere sin ningún marco que module su despliegue. Es la razón por la cual los tres autores rechazan tanto el optimismo tecnológico ingenuo —que trata a la IA como un progreso automáticamente benéfico— como el catastrofismo que la trata como una fatalidad ante la cual nada puede hacerse.
4-Hacia una regulación que garantice la pluralidad
4.1 La “algorética” y la Rome Call for AI Ethics: Francisco no se limita al diagnóstico. propone un camino. Frente a la dificultad de establecer una jerarquía única de valores en un mundo culturalmente plural, plantea la posibilidad de acordar principios compartidos —lo que llama “algorética”— capaces de convocar a culturas, religiones, organizaciones internacionales y empresas tecnológicas por igual. La Rome Call for AI Ethics, firmada en 2020, es la traducción institucional concreta de esta propuesta: un marco ético mínimo y transversal, no una doctrina cerrada, pensado para ser adoptado por actores muy distintos entre sí.
4.2 El “contrato social tecnológico” de Innerarity: Innerarity ofrece el desarrollo institucional más elaborado de esta misma intuición. Propone una idea de control político de la tecnología orientada a promover la igualdad y la democratización del entorno algorítmico, además de un nuevo contrato social entre humanos y máquinas que permita una integración equilibrada y justa en un mundo compartido. Este contrato no busca detener el desarrollo tecnológico —de hecho, Innerarity es explícito al señalar que una moratoria total sobre sectores tecnológicos dinámicos y competitivos resulta poco viable en la actual configuración geoestratégica del mundo—, sino fijar condiciones de gobernanza que preserven la capacidad de decisión colectiva.
Su rechazo tanto de las posturas “tecnófilas” (que ven en la IA la realización de un sueño democrático) como de las “tecnófobas” (que la ven como amenaza total a la libertad) resulta funcionalmente equivalente al rechazo papal de la ambivalencia paralizante entre entusiasmo y miedo: en ambos casos, la salida no es una postura emocional frente a la tecnología, sino un trabajo institucional concreto.
4.3 Convergencias y tensión de fondo. Los tres autores convergen en una misma conclusión práctica: la pluralidad no se protege dejando que la IA se desarrolle “libremente”, sino regulándola de modo que ningún actor —estatal, corporativo o algorítmico— pueda imponer un único modelo cultural, económico o antropológico al resto. La neutralidad no es un punto de partida técnico que haya que respetar; es, precisamente, lo que falta, y por eso debe construirse políticamente.
Existe, sin embargo, una tensión de fondo que vale la pena señalar en un trabajo académico honesto. Harari sostiene, especialmente en Homo Deus, una visión del ser humano como un conjunto de algoritmos bioquímicos, sin una diferencia de naturaleza —solo de complejidad— respecto de los sistemas artificiales. Francisco, en cambio, funda toda su argumentación en una dignidad humana no reducible a cálculo: el ser humano decide porque es capaz de una sabiduría práctica que la máquina, por definición, no puede alcanzar. Innerarity se ubica en un punto intermedio: no necesita una metafísica de la dignidad para sostener su argumento, le basta con mostrar que existe un límite epistemológico verificable —hay tareas de la decisión política que la IA no puede realizar simplemente porque no es capaz de hacerlas— para llegar a una conclusión regulatoria compatible con la de Francisco, aunque parta de premisas distintas sobre qué es, en última instancia, el ser humano.
Esta tensión no invalida la convergencia práctica entre los tres; al contrario, la vuelve más significativa: autores que parten de tradiciones intelectuales tan distintas —teología moral, historia global y filosofía política— llegan, por caminos independientes, a la misma exigencia de regulación pluralista. Cuando marcos de pensamiento tan distantes coinciden en un diagnóstico, ese acuerdo funciona como un indicio fuerte de que el problema identificado es real y no un artificio retórico de ninguno de ellos en particular.
5-Conclusión
El discurso de Francisco ante el G7, leído junto a Harari e Innerarity, permite reconstruir un argumento de tres pasos que atraviesa tradiciones intelectuales muy distintas. Primero, la IA no es neutral: codifica valores, datos y sesgos de quienes la diseñan y de las sociedades que la alimentan. Segundo, dejada sin marco regulatorio, esa falta de neutralidad no se distribuye al azar, sino que tiende a concentrar poder, homogeneizar la cultura y erosionar la capacidad humana —individual y colectiva— de decidir. Tercero, y por lo tanto, la respuesta adecuada no es ni el rechazo tecnofóbico ni la aceptación acrítica, sino la construcción deliberada de marcos éticos y políticos —la algorética, la Rome Call, el contrato social tecnológico— capaces de preservar la pluralidad que la propia tecnología, dejada a su propia lógica, tiende a erosionar.
La pluralidad, en este sentido, no es un valor que deba protegerse a pesar de la inteligencia artificial, sino la condición misma que permite distinguir un buen uso de un mal uso de esa herramienta. Como cierra el propio Francisco, corresponde a cada uno hacer buen uso de la tecnología, pero corresponde a la política crear las condiciones para que ese buen uso sea posible.
Referencias bibliográficas
-Francisco. (2024, 14 de junio). Discurso del Santo Padre Francisco en la sesión del G7 sobre inteligencia artificial [Discurso]. Borgo Egnazia, Italia. La Santa Sede.
-Harari, Y. N. (2016). Homo Deus: Breve historia del mañana. Debate.
-Harari, Y. N. (2024). Nexus: Una breve historia de las redes de información desde la Edad de Piedra hasta la IA. Debate.
-Innerarity, D. (2024). Inteligencia artificial y democracia. UNESCO / CLACSO.
-Innerarity, D. (2025). Una teoría crítica de la inteligencia artificial. Galaxia Gutenberg.
(*) Rubén Chaia es vocal del Tribunal de Juicios y Apelaciones de Concepción del Uruguay. Autor de “Técnicas de Litigación Penal” (7 tomos), “La Prueba Digital” (3 tomos), entre otros.
