Trump y titanes de la tecnología firman un pacto de “autorregulación” para la IA

En una cumbre sin precedentes en la Casa Blanca, el presidente Donald Trump encabezó este martes la firma de un conjunto de normas de seguridad voluntarias junto a los principales líderes de la industria de la inteligencia artificial.

El acuerdo, calificado por el propio mandatario como “casi una constitución”, busca establecer marcos de autorregulación en medio de crecientes advertencias sobre los riesgos de esta tecnología.

Flanqueado por figuras como Elon Musk (SpaceX), Mark Zuckerberg (Meta), Sundar Pichai (Google), Jensen Huang (Nvidia), Dario Amodei (Anthropic) y Greg Brockman (OpenAI), el presidente defendió la capacidad de la industria para fiscalizarse a sí misma.

Al ser cuestionado sobre si el compromiso firmado poseía carácter legal o vinculante, Trump matizó: “Creo que es moralmente vinculante”.

“Estoy viendo una tremenda capacidad de autorregulación, y ellos entienden que tienen que autorregularse”, afirmó el mandatario tras el almuerzo de trabajo con los ejecutivos.

Los cuatro niveles de control

El acuerdo, de una sola página y difundido por el mandatario a través de Truth Social, establece que las grandes tecnológicas implementarán “cuatro niveles de controles y auditorías” para garantizar el correcto funcionamiento de los modelos.

Este esquema contempla evaluaciones internas, auditorías externas y revisiones directas por parte de las juntas directivas de cada empresa.

Asimismo, el documento señala que con el tiempo “podría ser conveniente incorporar estas medidas en leyes o reglamentos”, aunque ratifica que las firmas asumen el compromiso de forma independiente.

Como parte de la iniciativa, las partes acordaron crear un comité de 10 personas para supervisar el sector, mientras que el presidente anunció que nombrará a un “zar de la IA” en los próximos días.

Paralelamente, Trump firmó este mismo martes una orden ejecutiva que instruye a las agencias del gobierno federal a sustituir oficialmente el término “inteligencia artificial” por el de “superinteligencia”.

Crece la alarma por la falta de límites

El inusual encuentro de rivales tecnológicos se produce tras reportes de empresas como OpenAI y Anthropic sobre modelos que obtuvieron acceso no autorizado a sistemas de terceros.

Las alertas aumentaron luego de que Jacob Coxon, exinvestigador de ambas firmas, advirtiera públicamente que la tecnología podría actuar sin intervención humana e incluso “acabar con todos nosotros para finales de la década”.

A pesar de estas advertencias y del clamor de diversos sectores para fijar límites estrictos por la vía legislativa, la administración optó por un modelo basado en el compromiso voluntario y las mejores prácticas acordadas por las propias corporaciones.

Sigue leyendo:

• Trump descarta “preocupación” por descontrol de la IA
• OpenAI revela que sus agentes de IA accedieron de forma inesperada a sitios del gobierno de EE.UU.
• Trump anticipa “cosas extraordinarias” tras reunión con Xi y destaca la “superinteligencia artificial”