La inteligencia artificial como problema de poder: entre el Papa León XIV y el presidente Trump

Esta semana ocurrieron dos hechos que ilustran bastante bien la precariedad y el surrealismo de nuestros tiempos: por un lado, el presidente Trump canceló la publicación de la Orden Ejecutiva que tenía como objetivo regular la seguridad de modelos de IA antes de que salieran al mercado; por el otro, el Papa León XIV publicó su encíclica Magnifica Humanitas https://www.vatican.va/content/leo-xiv/en/encyclicals/documents/20260515-magnifica-humanitas.html con el objetivo de salvaguardar a la persona humana en los tiempos de la inteligencia artificial.

Mientras que del lado de Trump el poder de las empresas se impuso y lograron que el presidente diera marcha atrás con el pretexto de avanzar en la competencia con China y no frenar la innovación, del lado de la Iglesia Católica prevaleció el interés humanista por sobre las presiones de los empresarios de tecnología y sus ejércitos de lobbistas https://www.politico.eu/article/pope-leo-xiv-ai-meetings-silicon-valley-vatican/. Así, el Papa León XIV publicó una encíclica en la que criticó profusamente el problema de poder detrás del mercado de la inteligencia artificial y la amenaza que ésta plantea para la humanidad.

En ambos casos queda de manifiesto la importancia del poder tecnológico, el cual se ha vuelto un imperativo a nivel nacional e internacional y tiene un impacto profundo en nuestras vidas. Hoy las empresas de tecnología y sus dueños tienen capacidades de poder nunca vistas en la historia: capital que excede el PIB de la mayor parte de los países del mundo, capacidades de vigilancia y manipulación que cualquier régimen autoritario envidiaría, y una crónica dependencia de Estados, empresas y personas hacia sus productos y servicios.

Además, la influencia de la IA junto con tecnologías como la manipulación genética o la neurocomputación abrirá nuevos frentes de conflicto político y lucha por el poder sobre territorios que hasta ahora parecían inviolables: la conciencia humana, el cerebro, el propio cuerpo. La humanidad se encuentra ante el umbral de una transformación que, de lograrse las fantasías y objetivos de las élites tecnológicas, traerá como consecuencia una reconfiguración total: una nueva organización política, un nuevo modelo productivo, un nuevo paradigma de lo humano y hasta una nueva clase de seres humanos.

Estos son precisamente los riesgos que denuncia el Papa León XIV en su encíclica, la cual disecciona con precisión el problema de la IA: no es la tecnología en sí, sino los intereses, objetivos y capacidades a los que sirve, tan humanos como cualquiera de nosotros, sólo que respaldados por miles de millones en capital político, técnico y financiero.

La respuesta más frecuente de gobiernos, grupos e instituciones ha sido el llamado a la auto regulación; paradójicamente, hasta los propios empresarios de tecnología la solicitan, aunque bajo sus propios términos.

El problema es que se repiten viejas fórmulas ante problemas nuevos: se atienden algunos riesgos visibles, algunas manifestaciones problemáticas, y se proclama una gran victoria de los gobiernos frente a los gigantes tecnológicos, cuando en el fondo sus capacidades de poder permanecen intactas y no hacen más que crecer. Es la misma historia que ya vivimos con las redes sociales: regulación cosmética que no tocó ninguna de las fuentes reales de poder y auto regulación en términos reales.

Las bases del poder de estas empresas radican en capacidades que pocos actores tienen: capital financiero, infraestructuras críticas, ventajas técnicas acumuladas y capital humano altamente especializado. A esto se suma la protección de un sistema internacional que, bajo la hegemonía estadounidense, construyó un orden de protección legal, comercial, de propiedad intelectual y de apertura de mercados hecho a su medida. 

Es precisamente ahí donde radica la imposibilidad de regular profunda y decisivamente a estas corporaciones: la mayoría de los gobiernos carecen de capacidades para producir tecnología a esa escala de forma autónoma —salvo China— y tampoco cuentan con el apalancamiento internacional suficiente para resistir las represalias que Estados Unidos desataría contra quienes intenten regularlas con seriedad.

Sin embargo, la regulación eficaz no puede limitarse a hacer algunos usos de la IA más seguros o transparentes, debe atender las fuentes mismas de poder que sostienen a estas empresas: propiedad intelectual abusiva, infraestructuras físico-digitales con beneficios desiguales, mercados y espacios digitales auto regulados cada vez más explotadores, su capacidad para construir sentido común. 

Mientras esas bases permanezcan intactas, cualquier marco regulatorio tendrá, en el mejor de los casos, el mismo destino que la regulación de las plataformas digitales: un parcheo permanente que llega siempre tarde y nunca al fondo.
Actualmente, gobiernos, países e instituciones compiten por introducir tecnología de IA, facilitar su adopción e intentar atraer capitales, a la par que declaran querer regularla. La contradicción no es accidental: refleja la trampa estructural en la que se encuentra la política frente al poder tecnológico, ya que nadie quiere quedarse fuera de la carrera, pero nadie tiene claro adónde lleva ni quién fija las reglas del camino.

La encíclica del Papa León XIV y la orden ejecutiva cancelada de Trump no son simplemente dos noticias de la semana, son síntomas de una misma tensión irresuelta: la humanidad está siendo transformada a una velocidad que supera su capacidad de deliberar colectivamente sobre el tipo de futuro que desea. Y en ese vacío de deliberación, alguien más toma las decisiones: no son los gobiernos, no son los ciudadanos, son quienes controlan la infraestructura, los modelos, los datos y los capitales.

La pregunta que queda abierta no es si la IA debe regularse —eso ya está fuera de discusión—, sino si las sociedades son capaces de construir las condiciones políticas para hacerlo antes de que la concentración de poder sea tan grande que cualquier intento resulte inútil.