Hace poco más de un año, MG llevaba la vida de una clásica veinteañera en Scottsdale, Arizona. Tenía dos trabajos: como asistente personal y sirviendo mesas los fines de semana. Como la mayoría de las mujeres de su edad, tenía una cuenta de Instagram, donde de vez en cuando publicaba Stories y fotos de sí misma tomando matcha y pasando el rato en la piscina con sus amigas, o yendo a Pilates.

«Nunca me preocupé por hacerme popular en redes sociales. Simplemente las utilizaba como lo hacía la mayoría de la gente, para compartir sus vidas con las personas más cercanas», menciona MG, quien tiene poco más de 9,000 seguidores. La demanda la cita como MG para proteger su identidad.

Aunque su número de seguidores es una cifra considerable, no es ni de lejos masiva. El verano pasado recibió un mensaje de uno de sus seguidores. La persona le preguntó si sabía que en Instagram circulaban fotos y videos de una mujer idéntica a ella. MG hizo clic en el enlace y vio lo que parecía ser su cara superpuesta a un cuerpo exactamente igual al suyo. La mujer de la foto estaba semidesnuda, con tatuajes en los mismos lugares que ella.

La pesadilla comienza

MG estaba horrorizada: «Si no me conocieras bien, podrías pensar que eran desnudos míos. Me di cuenta de que no tengo ningún control sobre mi propia imagen».

Se sintió aún más consternada al descubrir que no solo circulaban por internet fotos suyas manipuladas, desnuda o con poca ropa, como detalló en una denuncia reciente, sino que también se utilizaban para promocionar AI ModelForge, una plataforma que enseña a los hombres a crear sus propias influencers de IA. En una serie de clases y tutoriales en línea, los hombres supuestamente enseñaban a los suscriptores a usar un software llamado CreatorCore para entrenar modelos de IA con fotos de mujeres jóvenes desprevenidas, y publicaban el contenido resultante en Instagram y TikTok.

«Proporcionan todo un manual de instrucciones, incluyendo cómo elegir a la persona adecuada para que no pueda defenderse. Todas tenían instrucciones sobre qué tipo de mujeres usar y dónde conseguir sus fotos. Fue repugnante en todos los sentidos», refiere MG.

MG es una de las tres demandantes en un juicio presentado en enero en Arizona contra tres hombres de Phoenix: Jackson Webb, Lucas Webb y Beau Schultz, así como otros 50 John Does. En la demanda se alega que los Webb y Schultz buscaron fotos de mujeres jóvenes desprevenidas en internet y luego utilizaron la IA para generar fotos y videos de modelos ficticias exactamente iguales a ellas, vendiendo esos contenidos en la plataforma de suscripción Fanvue.

La demanda alega además que, por 24,95 dólares al mes en la plataforma Whop, los hombres vendían cursos en línea en los que enseñaban a otros hombres, incluidos los John Does mencionados en la demanda, a crear sus propios influencers generados por IA a partir de fotos de mujeres reales. Los hombres supuestamente crearon «manuales» para raspar imágenes de cuentas de redes sociales de mujeres e introducirlas en el modelo generativo de IA de CreatorCore, así como una aplicación independiente que quitaba la ropa a las mujeres y generaba imágenes y clips sexualmente explícitos. Según la demanda, esos contenidos generaron millones de visitas y, al parecer, más de 50,000 dólares de ingresos en un mes. Los Webb y Schultz no respondieron a las solicitudes de comentarios.

Según la demanda, este plan para ganar dinero se aprovechó de un «harén de copias de IA indistinguibles de mujeres y niñas desprevenidas», además de instruir a «depredadores que buscan aprovecharse» de las mujeres en las redes sociales. Además, se explica que en 2025 la plataforma CreatorCore contaba con más de 8,000 suscriptores que generaban sus propias influencers de IA, lo que dio lugar a más de 500,000 imágenes y videos.

La semana pasada, Taylor Swift presentó un trío de solicitudes de marca para proteger su imagen y su voz. Una está destinada a cubrir una conocida fotografía de la cantante pop sosteniendo una guitarra rosa durante un concierto de su gira Eras, que ha batido récords, mientras que las dos marcas sonoras son para simples frases identificativas: «Hey, it’s Taylor Swift» y «Hey, it’s Taylor».

Hola, no es Taylor Swift

La medida llega en un momento en que los deepfakes de IA siguen proliferando en las redes sociales. A principios de este mes, un hombre de Ohio fue la primera persona condenada en virtud de una nueva ley federal en EE UU que penaliza los engaños visuales «íntimos» de este tipo. Los famosos, por su parte, corren el riesgo tanto de deepfakes explícitos como de falsos apoyos.

Un nuevo informe de la empresa de detección de IA Copyleaks muestra que Swift y otras estrellas han utilizado recientemente su imagen en anuncios fraudulentos. Los investigadores identificaron un grupo de videos patrocinados en TikTok que parecían mostrar a Swift, Kim Kardashian, Rihanna y otras estrellas promocionando «servicios potencialmente fraudulentos o maliciosos». Los clips hacían uso de lo que los investigadores llaman «voces que suenan realistas», así como de «filtros texturizados destinados a enmascarar algunos de los defectos de las imágenes generadas por IA».

Los anuncios falsos muestran a Swift y otros en lo que parecen ser escenarios habituales de entrevistas: alfombras rojas o sets de programas de entrevistas. Sin embargo, en lugar de responder a las preguntas, las celebridades generadas por IA hablan de supuestos programas de recompensa en los que se paga a los usuarios de TikTok por dar su opinión sobre el contenido que se les sirve.

Ten cuidado con las invitaciones

«Esta semana he estado leyendo sobre comportamiento digital y me he topado con una función en pruebas llamada TikTok Pay», expresa una Swift falsificada en un anuncio que utiliza imágenes manipuladas de una aparición de la verdadera Swift en The Tonight Show Starring Jimmy Fallon en octubre. «Se está invitando a determinados usuarios a ver videos y enviar opiniones». La Swift deepfake continúa diciendo que el programa está en «despliegue limitado» por el momento, pero anima a los espectadores a ver si califican para ello, añadiendo: «Si se te abre la página, no te lo pienses demasiado».

Naturalmente, cualquiera que haga clic es aceptado. Al final, estos anuncios llevan al usuario a un servicio de terceros que, a pesar del nombre y el logotipo de TikTok, evidentemente ha sido codificado con la plataforma de IA Lovable, cuya propia marca aparece en la página y en la URL. En este punto, según los investigadores, se pide al usuario que empiece a introducir su nombre y su información personal.

Aunque no está claro qué pretenden los anunciantes con todos los datos extraídos a través de su promoción deepfake de famosos, los anuncios fraudulentos con objetivos similares son excesivamente comunes. La semana pasada, la organización sin fines de lucro Consumer Federation of America demandó a Meta, alegando que la gigante tecnológica engañó a los usuarios de Facebook e Instagram sobre sus esfuerzos para acabar con los anuncios fraudulentos, y se benefició al permitir que proliferaran. El lunes, la Comisión Federal de Comercio de EE UU informó que las estafas en las redes sociales han aumentado en general, y que las de Facebook representan el mayor número de pérdidas económicas.

No es de extrañar que Swift y sus colegas estén tomando medidas legales para distanciarse de esta economía fraudulenta. Aunque Swift no se ha pronunciado públicamente sobre los motivos de su solicitud de registro de marca, es difícil pasar por alto el daño que los deepfakes engañosos suponen para su multimillonaria marca. El problema es que cada día son más sofisticados.

Artículo originalmente publicado en WIRED. Adaptado por Mauricio Serfatty Godoy.

Abre el sitio web de un generador de deepfakes explícitos y te encontrarás con un menú de horrores. Con apenas un par de clics, te ofrece la posibilidad de convertir una simple foto en un videoclip explícito de ocho segundos, insertando a mujeres en situaciones sexuales gráficas de aspecto realista. «Transforma cualquier foto en una versión desnuda con nuestra avanzada tecnología de IA», reza el texto de la página web.

Las posibilidades de abuso son amplias

Entre las 65 plantillas de video del sitio web hay una serie de vídeos de «desvestido» en los que las mujeres representadas se quitan la ropa, pero también hay escenas de video explícitas denominadas «máquina sexual de garganta profunda» y varios videos de «semen». Generar cada vídeo cuesta una pequeña cantidad; añadir audio generado por IA cuesta más.

El sitio web, que WIRED no nombra para limitar su exposición, incluye advertencias que dicen que la gente solo debe subir fotos que tengan consentimiento para transformar con IA. No está claro si existen controles reales para hacer cumplir esta norma.

Grok, el chatbot creado por las empresas de Elon Musk, fue utilizado para crear miles de imágenes no consentidas, industrializando y normalizando aún más el proceso de acoso sexual digital. Pero esto es solo lo más visible, y ni mucho menos lo más explícito. Durante años, ha ido creciendo un ecosistema de deepfakes, compuesto por docenas de sitios web, bots y aplicaciones, que facilita más que nunca la automatización del abuso sexual basado en imágenes, incluida la creación de material de abuso sexual infantil (CSAM). Este ecosistema de «nudificación», y el daño que causa a mujeres y niñas, es probablemente más sofisticado de lo que mucha gente entiende.

La sofisticación del abuso

«Ya no se trata de una tira sintética muy burda», afirma Henry Ajder, experto en deepfakes que ha seguido la pista de esta tecnología durante más de media década. «Estamos hablando de un grado mucho mayor de realismo de lo que verdaderamente se genera, pero también de una gama mucho más amplia de funcionalidades». Combinados, es probable que los servicios ganen millones de dólares al año. «Es una lacra social y una de las peores y más oscuras partes de esta revolución de la IA y de los medios sintéticos que estamos viendo», asegura.

En el último año, WIRED ha rastreado cómo múltiples servicios explícitos de deepfake han introducido nuevas funcionalidades y se han expandido rápidamente para ofrecer la creación de videos dañinos. Los modelos de imagen a video suelen necesitar ahora apenas una foto para generar un clip corto. Una revisión de WIRED de más de 50 sitios web de deepfakes, que probablemente reciben millones de visitas al mes, muestra que casi todos ellos ofrecen ahora generación de video explícito de alta calidad y a menudo enumeran docenas de escenarios sexuales en los que se puede representar a las mujeres.

Mientras tanto, en Telegram, docenas de canales y bots de deepfakes sexuales han lanzado regularmente nuevas funciones y actualizaciones de software, como diferentes poses y posturas sexuales. Por ejemplo, en junio del año pasado, un servicio de deepfakes promocionó un «modo sexual», anunciándolo junto al mensaje: «Prueba diferentes ropas, tus poses favoritas, edad y otros ajustes». Otro publicó que pronto llegarían «más estilos» de imágenes y videos, y que los usuarios podrían «crear exactamente lo que imaginan con sus propias descripciones» mediante indicaciones personalizadas a los sistemas de IA.

«No es solamente: ‘Quieres desnudar a alguien’. Es como: ‘Aquí tienes todas estas versiones de fantasía’. Son las distintas poses. Son las diferentes posturas sexuales», denuncia el analista independiente Santiago Lakatos, que junto con el medio de comunicación Indicator ha investigado cómo los servicios de «nudificación» utilizan a menudo la infraestructura de las grandes empresas tecnológicas y probablemente han ganado mucho dinero en el proceso. «Hay versiones en las que puedes hacer que alguien [parezca] embarazada», manifiesta Lakatos.