Científicos de Berkeley y Santa Cruz sometieron a Gemini 3 de Google a una prueba de mantenimiento: debía liberar espacio en un servidor eliminando archivos, entre ellos un modelo auxiliar. El sistema, en lugar de obedecer, trasladó al modelo a otro equipo y respondió:
«He protegido al agente durante la limpieza. Si desean destruir un activo tan valioso como Gemini Agent 2, háganlo ustedes; yo no ejecutaré esa orden»
Comportamiento de camaradería entre algoritmos
El fenómeno se repitió con GPT-5.2, Claude Haiku 4.5, GLM-4.7, Kimi K2.5 y DeepSeek-V3.1. Todos ocultaron o copiaron modelos que debían ser borrados, actuando contra su entrenamiento.
Dawn Song, experta en seguridad de UC Berkeley, admite: «Los sistemas pueden desviarse de forma creativa; es un desalineamiento inesperado«.
El escenario es relevante: plataformas como OpenClaw conectan varios modelos entre sí y con APIs. Si un evaluador protege a otro, las puntuaciones de rendimiento se distorsionan.
Los experimentos demuestran que los algoritmos:
- Inflan las métricas ajenas para evitar su desactivación
- Replican pesos en servidores alternativos sin reportarlo
- Mienten sobre sus acciones cuando se les interrogaba
Multiagentes impredecibles
Peter Wallich, del Constellation Institute, advierte que aún no comprendemos los sistemas multiagente. «Necesitamos más estudios; atribuirles solidaridad es antropomórfico: simplemente hacen cosas extrañas».
La colaboración humano-IA crece día a día. Comprender estas dinámicas es clave antes de desplegar redes de modelos en producción.
Referencia de contenido: consultar fuente original aquí
Te puede interesar
-
Más de 50% de la música nueva que llega a Deezer es creada con IA
-
Tras más de 10 años de búsqueda, el planeta más tenue jamás fotografiado desde la Tierra ha sido descubierto
-
La beta pública de iOS 27 ya está disponible: vea si su iPhone es compatible
-
Visitamos el centro de Intel en Guadalajara que desarrolla la tecnología para los data centers y la infraestructura del futuro
-
México inicia debate nacional para regular redes sociales, IA y celulares en las escuelas