Cuando la IA prometía salvar al planeta y ahora alimenta máquinas de matar: la guerra redefine la lucha por el dominio

He pasado los últimos días pidiendo a las compañías de inteligencia artificial que me demuestren que la seguridad de la IA sigue viva. Hace apenas unos años, empresas, legisladores y sociedad parecían coincidir: la regulación rigurosa no solo era urgente, sino ineludible.

Se hablaba de organismos internacionales que fijaran reglas para que la IA se tratara con más respeto que otras tecnologías emergentes y al menos frenaran sus usos más peligrosos. Las firmas prometían priorizar la protección frente a la competencia y al beneficio. Aunque los profetas del apocalipsis seguían dibujando futuros distópicos, se fraguaba un consenso global para limitar riesgos y, al mismo tiempo, aprovechar ventajas.

La semana pasada pulverizó esas esperanzas. Empezó la batalla entre el Pentágono y Anthropic. Ambos coinciden en que el contrato que les unía estipulaba, por exigencia de Anthropic, que el Departamento de Defensa —ahrea autodenominado Departamento de Guerra— no emplearía los modelos Claude para armas autónomas ni vigilancia masiva de ciudadanos estadounidenses. Ahora, el Pentágono quiere borrar esas líneas rojas. La negativa de Anthropic ha rescindido el acuerdo y ha llevado al secretario Pete Hegseth a calificar a la compañía como riesgo para la cadena de suministro, lo que prohíbe a las agencias federales contratarla. Más allá de cláusulas y tensiones personales, el mensaje es claro: el ejército rechaza cualquier límite al uso de IA, al menos bajo su propia interpretación de la legalidad.

Del bien común al robot asesino

La pregunta clave es cómo hemos llegado a considerar aceptable desplegar robots teledirigidos que matan o bombas que identifican y eliminan blancos humanos sin intervención. ¿Se me pasó el debate internacional sobre enjambres de drones letales que escanean zonas de conflicto, patrullan fronteras o cazan narcotraficantes? Hegseth critica que una empresa privada limite al Ejército; a mí me parece más absurdo que haga falta una firma dispuesta a arriesgar sanciones existenciales para frenar una tecnología potencialmente incontrolable. La ausencia de tratados internacionales obliga a cualquier milicia avanzada a desplegar IA en todas sus formas solo para no quedarse atrás. La carrera armamentística de la IA ya parece irreversible.

Los riesgos trascienden el ámbito militar. El conflicto del Pentágono quedó eclipsado por un anuncio de Anthropic el 24 de febrero: la firma retocaba su Política de Escalado Responsable, un pilar que vinculaba los lanzamientos de nuevos modelos a la implementación de salvaguardas. La norma impedía estrenar sistemas sin barreras que bloquearan los peores usos y servía de incentivo interno para no sacrificar seguridad por velocidad. Anthropic aspiraba a que su ejemplo inspirara o avergonzara a rivales como DeepMind o OpenAI para replicar el compromiso. Bautizó la iniciativa «carrera hacia la cima».

Al principio funcionó: DeepMind y OpenAI adoptaron parte del marco. Sin embargo, cuando las inversiones se dispararon y la posibilidad de regulación federal se desvaneció, Anthropic reconoció que su política había quedado corta. «El entorno político ha cambiado para priorizar la competitividad y el crecimiento económico de la IA, mientras que los debates centrados en la seguridad aún no han ganado tracción significativa a nivel federal», admitió la compañía en su blog.

Mientras tanto, la competencia entre laboratorios se ha vuelto más feroz. En lugar de una carrera hacia la cima, parece una pelea de Rey de la Montaña a puñetazos limpios. Cuando el Pentágono canceló a Anthropic, OpenAI corrió a ocupar su lugar. Su CEO, Sam Altman, aseguró que firmó rápidamente con Defensa para aliviar la presión sobre Anthropic, pero Dario Amodei, director general de esta última, no lo cree: «Sam intenta socavar nuestra posición mientras finge apoyarnos. Quiere que la Administración pueda castigarnos más fácilmente erosionando nuestro respaldo público», escribió en un memorando interno, para después disculparse por el tono.

Referencia de contenido: consultar fuente original aquí