Inteligencia artificial y derechos humanos

En el marco de las charlas “Impactos de las nuevas tecnologías digitales en el ejercicio de los DESCA” de la CNDH, académicos hablan sobre las implicaciones del uso de la IA en los derechos humanos:  cada 100 palabras generadas por un modelo de IA consumen el equivalente a tres botellas de agua. 

La fe ciega en la tecnología suele comenzar por una pantalla. Un brillo cómodo, un asistente que responde rápido, un buscador que parece saberlo todo. Pero detrás de esa interfaz amable, como lo muestra la presentación del académico de la UNAM Samuel Rosado Zaidi, se articula la arquitectura de poder más grande de nuestra era: “una red de monopolios digitales capaz de reordenar la economía, la política, la cultura y hasta la forma en la que entendemos la vida”. Sin embargo, seguimos llamándole inteligencia artificial (IA), como si ese nombre no fuese una farsa. La primera gran estrategia de marketing, proveniente de cónclaves tecnológicos, para desactivar cualquier crítica.

            Los llamados Siete Magníficos, Alphabet, Microsoft, Apple, Meta, Amazon, NVIDIA y Tesla, ya no compiten con empresas, sino con Estados. La suma de su valor supera el PIB de la Unión Europea, y su control sobre la infraestructura digital convierte a la noción de soberanía en un gesto vacío. 

            Para dimensionar el problema: Google posee casi 80 por ciento de las búsquedas globales y ha sido declarado formalmente un monopolio. Por su parte la empresa Meta obtiene 97 por ciento de sus ingresos de publicidad y modula las conversaciones públicas desde plataformas donde la ciudadanía vive, trabaja, ama y se informa. 

            El acceso a información, educación, seguridad, creatividad y trabajo está mediado por corporaciones cuyo negocio es la extracción de datos y cuya agenda política es, en el mejor de los casos, ajena a los derechos humanos.

            La presentación lo evidencia con claridad: no existe neutralidad tecnológica. La representante de Meta que en México pide regulación “tecnológicamente neutra” pretendiendo que se ignore que su empresa ha financiado discursos anti-derechos y ha sido protagonista de escándalos como Cambridge Analytica. 

            Pero no es casualidad. En los registros de sus consejos directivos aparecen figuras como Peter Thiel, vinculado al aparato de guerra cibernética, o Marc Andreessen, paladín del manifiesto tecno-optimista quien promueve un aceleracionismo que coloca al mercado como eje de cualquier forma de vida. Es una visión de mundo donde el progreso es sinónimo de explotación.

El diccionario del agua

El problema no es sólo ideológico, es material. Cada 100 palabras generadas por un Modelo de Lenguaje Largo (LLM) consume tres botellas de agua. Un solo entrenamiento de GPT-3 requirió más de cinco millones de litros. Google usó en 2023 más de 25 mil millones de litros; en Estados Unidos, comunidades enteras ven mermados sus suministros de agua y energía para sostener data centers que operan para servicios que no responden a prioridades públicas. Bajo el brillo de lo “inteligente”, todo es posible. La infraestructura devora recursos, desplaza comunidades y reanima plantas de carbón. 

            A nivel económico, la promesa de una automatización liberadora se cae a pedazos. Bill Gates se aventuró a prometer una semana laboral de dos días en una década, pero en México ni siquiera logramos que la jornada de 40 horas avance, aunque nuestro PIB actual triple el estadounidense de 1940 cuando EE.UU aprobó ese formato de trabajo. 

            La automatización real (la que sí existe, no la que nos venden en conferencias) avanza sin redistribución, sin derechos y sin garantías. McKinsey proyecta que la mitad de los empleos podrían desaparecer para 2050. Mientras tanto, Amazon vigila a sus empleados y cabildea para que la policía adopte sus sistemas de vigilancia automatizada. No se trata de liberar al trabajador, sino de disciplinarlo y en muchos casos reemplazarlo para abaratar los costos.

            Las consecuencias culturales también son profundas. Los grandes modelos generativos operan robando trabajo creativo bajo el amparo de la escala: millones de obras, libros y piezas visuales, muchas pirateadas, alimentan sistemas cuyo beneficio jamás regresa a sus autores. 

            La industria argumenta que “así funciona Internet”, pero no es el Internet. Se trata de una red centralizada de corporaciones que convierten toda producción humana en insumo gratuito. Mientras tanto, medios como el New York Times litigan para proteger su trabajo, mientras otros firman acuerdos con las mismas plataformas que les drenan lectores. 

            Lo social es quizá lo más peligroso. La presentación de Rosado-Zaidi señala que algunos modelos pueden ser manipulados para difundir malware, campañas de phishing o instrucciones de suicidio. Ya han ocurrido muertes debido a lo último. Alphabet despidió a personal que denunciaba racismo sistémico. El MIT advierte que estudiantes dependientes de LLMs tienen peor desempeño cognitivo. Y los algoritmos siguen entrenándose con textos misóginos, racistas y violentos, mientras startups financiadas por inversionistas de Silicon Valley venden “influencers sintéticos” para manipular redes sociales. La distopía no es futura: es una industria de manipulación en masa que sigue creciendo.

            A todo esto se suma la política del sacrificio: comunidades que cargan con la contaminación para sostener el sueño tecnológico de multimillonarios. En Tennessee, el data center Colossus del magnate que ayudó a Donald Trump a ganar las elecciones, Elon Musk, impuso turbinas de diésel en un barrio de población racializada. Cuando la comunidad se organizó, la respuesta empresarial fueron estudios a modo y campañas de desprestigio. Para rematar, el modelo Grok terminó convertido en “mechaHitler”, difundiendo discursos de odio. No queda duda: el daño es ambiental, social, político y humano.

            Vale entonces preguntarnos por qué los gobiernos (incluido el mexicano) adoptan sin cuestionar estos modelos. El entusiasmo acrítico por digitalizar servicios públicos mediante herramientas controladas por monopolios multinacionales nos coloca en una posición de vulnerabilidad extrema... dependencia tecnológica, entrega de datos, debilitamiento institucional y una renuncia tácita a cualquier noción seria de soberanía digital. Todo en condiciones de total impunidad.

            La discusión pública está secuestrada por eufemismos. No hablamos de automatización, sino de “IA”. No hablamos de control corporativo, sino de “innovación”. No hablamos de vigilancia, sino de “eficiencia”. Es indispensable recuperar el lenguaje para poder recuperar la política. No se trata de rechazar la tecnología, sino de desmantelar el mito. Los modelos no piensan, no sienten, no deciden. Son matemáticas alojadas en servidores que requieren agua, energía y territorios para existir. Y todo eso tiene un costo. Lo que sí piensa y decide es el capital que nos gobierna.