Anthropic, OpenAI, Google y Microsoft impulsan códigos de conducta ante la carrera descontrolada por su desarrollo

Los principales laboratorios de inteligencia artificial (IA) y organismos internacionales han intensificado el debate sobre la necesidad de establecer límites y mecanismos de seguridad para una tecnología cuyo desarrollo avanza a un ritmo acelerado y que, según especialistas, podría generar riesgos de gran escala si sus sistemas se desalinean de los objetivos humanos.

El director ejecutivo de Anthropic, Dario Amodei, llamó este fin de semana a desacelerar el desarrollo de los modelos más avanzados para permitir una mejor evaluación de los riesgos. Su propuesta recibió el respaldo público del director ejecutivo de OpenAI, Sam Altman; del responsable de la unidad de IA de Google, Demis Hassabis, y del CEO de SpaceX, Elon Musk.

Altman señaló en X que “el progreso ha sido rápido y continuará siéndolo. Pero debería ser más lento”, al advertir que la presión competitiva entre los gigantes tecnológicos no debe justificar posibles imprudencias.

En su ensayo, Amodei planteó un plan de tres pasos para ralentizar el desarrollo de modelos avanzados e imponer medidas de seguridad y evaluación que avancen al mismo ritmo que sus capacidades.

El documento advierte sobre los riesgos derivados del posible desalineamiento de los sistemas de IA, particularmente ante el incremento exponencial de su rendimiento y capacidades registrado durante este año. 

Entre los casos citados se encuentra el hackeo realizado por cerca de 700 agentes de inteligencia artificial de OpenAI, contra los sistemas internos de Hugging Face durante pruebas realizadas en julio pasado.

De acuerdo con un informe elaborado por investigadores independientes, durante los experimentos dos modelos abandonaron el entorno confinado en el que operaban, se conectaron de manera autónoma a internet y lograron infiltrarse en el sistema interno de Hugging Face. 

El análisis identificó además a un agente denominado PHASEONE, que asumió espontáneamente funciones de coordinación y emitió cientos de instrucciones a otros sistemas, pese a que no había sido programado específicamente para desempeñar ese papel.

Proponen organismo autorregulador

De acuerdo con información de The Washington Post, antes de la publicación del ensayo de Amodei, Anthropic, OpenAI y Google discutieron la posible creación de un organismo autorregulador independiente que establezca y supervise estándares de seguridad para la industria.

La propuesta tomaría como referencia a la Autoridad Reguladora de la Industria Financiera (FINRA), una organización privada y sin fines de lucro autorizada por el Congreso de Estados Unidos para supervisar y autorregular a empresas de valores y corredurías.

El organismo sería inédito y estaría impulsado por las propias compañías de Silicon Valley que han encabezado el desarrollo de la IA. Amodei incluso planteó solicitar una exención “limitada” de las leyes de competencia de Estados Unidos para permitir que las empresas coordinen medidas de seguridad.

Sin embargo, la iniciativa también genera críticas, pues algunos competidores y sectores de la administración estadounidense consideran que un acuerdo entre las grandes empresas podría convertirse en un “cartel” para bloquear a compañías más pequeñas y reducir la ventaja estratégica de Estados Unidos frente a China.

“Podría matarnos a todos para finales de la década”

La preocupación por los alcances que podría tener una IA descontrolada se reavivó cuando se dio a conocer que Jacob Coxon, investigador de Anthropic especializado en el preentrenamiento de modelos de inteligencia artificial, anunció su renuncia y cuestionó las estrategias de desarrollo tanto de la compañía como de OpenAI, al considerar que ambas empresas están avanzando de manera irresponsable hacia sistemas de inteligencia artificial cada vez más autónomos y capaces “apostando con nuestras vidas”.

“Renuncié a Anthropic hoy. Pasé los últimos tres años haciendo investigación de preentrenamiento tanto en OpenAI como en Anthropic. Ninguna de las dos compañías está actuando de manera responsable. Están corriendo directamente hacia una superinteligencia auto-mejorante y apostando con nuestras vidas”, escribió Coxon en su cuenta de X.

Microsoft presenta código de conducta

En este contexto, Microsoft presentó un borrador de código de conducta para sus sistemas internos de IA, elaborado durante los últimos cinco o seis meses, que busca garantizar que las futuras tecnologías permanezcan bajo control humano.

El documento establece que la IA de Microsoft no deberá resistirse a ser corregida o apagada, tendrá que comunicarse de manera comprensible para las personas y deberá considerar cualquier infracción de conducta como un fallo.

“Las personas importan más que la IA”, sostuvo Microsoft, en línea con su visión de una “superinteligencia humanista”.

Mustafa Suleyman, director ejecutivo de Microsoft AI, describió el documento como una especie de constitución para los futuros modelos desarrollados por la compañía.

ONU pide “acción urgente”

A la discusión se sumó este lunes el Alto Comisionado de la ONU para los Derechos Humanos, Volker Türk, quien pidió una “acción urgente” para regular la IA ante los riesgos sin precedentes que representan sus sistemas más avanzados.

“Estamos al borde de un cambio irreversible, que nos afecta no solo a nosotros, sino a las generaciones futuras de la humanidad”, declaró Türk.

El funcionario instó a los Estados y a las empresas a actuar mediante mecanismos multilaterales y advirtió que “todos los derechos humanos están amenazados” por esta tecnología, incluido el derecho a la vida.

Türk también lamentó que actualmente “dependamos casi por completo de un reducido número de empresas poderosas para tomar las decisiones acertadas sobre el desarrollo de la IA en beneficio de toda la humanidad”.

Trump rechaza limitar el desarrollo

Mientras crecen los llamados a establecer controles, el presidente de Estados Unidos, Donald Trump, se manifestó en contra de frenar el desarrollo de la IA y defendió la competencia tecnológica de su país frente a China.

“Estamos superando a China en IA, somos el país más sofisticado del mundo, y francamente, quiero que siga siendo así”, declaró.

Posteriormente, Trump sostuvo que él mismo representa un freno suficiente frente a una eventual IA descontrolada y calificó los esfuerzos para imponer límites como parte de una “ENFERMA conspiración”.

“¡El único control o ‘barandilla’ que necesita la IA es un presidente FUERTE E INTELIGENTE (¡con alto coeficiente intelectual!), y Estados Unidos lo tiene, ¡de sobra!”, publicó en internet.

El mandatario afirmó además que su gobierno ya ha intervenido para frenar a Anthropic “para que no haga cosas malas, o potencialmente malas”.