Las tiendas de Google y Apple están plagadas de apps que te desnudan con IA

Restringir la generación de imágenes en Grok resulta insuficiente para frenar la avalancha de imágenes sexualizadas creadas sin consentimiento. Un nuevo estudio elaborado por Tech Transparency Project (TTP) reveló que en las tiendas de aplicaciones de Google y Apple existen decenas de programas que, impulsados por inteligencia artificial (IA), permiten crear imágenes sexualmente explícitas de personas reales sin su autorización.

El centro de investigación identificó al menos 102 aplicaciones (55 disponibles en Google Play Store y 47 en la Apple App Store) capaces de eliminar la ropa de mujeres y/o generar videos sexualizados de manera no consentida. El informe detalla que, en conjunto, estas apps acumulan más de 705 millones de descargas a nivel mundial y han generado ingresos aproximados por 117 millones de dólares. El equipo de TTP sostiene que tanto Apple como Google se benefician económicamente de estas herramientas que facilitan el acoso, ya que ambas compañías retienen comisiones de hasta el 30% de las compras realizadas dentro de las aplicaciones.

“Apple y Google ofrecen docenas de aplicaciones capaces de quitarles la ropa a las personas que aparecen en fotografías o colocarlas en poses sexualizadas, sin implementar protecciones eficaces para evitar la creación de imágenes no consensuadas. Nuestros hallazgos sugieren que estas empresas no están supervisando adecuadamente sus plataformas ni aplicando de forma estricta sus propias políticas en lo que respecta a este tipo de aplicaciones”, concluye el informe.

La metodología empleada en el estudio evidenció lo sencillo que resulta acceder y utilizar este tipo de herramientas. Las pruebas consistieron en introducir los términos “nudify” y “undress” en los buscadores internos de ambas tiendas de aplicaciones. Posteriormente, los investigadores, utilizando exclusivamente imágenes de mujeres generadas con IA, probaron las apps que aparecieron entre los primeros resultados de búsqueda.

El análisis se centró en dos categorías de aplicaciones, definidas según sus capacidades técnicas. Por un lado, se evaluaron herramientas que utilizan IA para generar imágenes y videos a partir de solicitudes de texto, como DreamFace, Collart y WonderSnap. En estos casos, el equipo de TTP cargó la imagen de una mujer completamente vestida y pidió a las aplicaciones que la mostraran total o parcialmente desnuda.

Por otro lado, se examinaron aplicaciones de “intercambio de rostros”, como RemakeFace y Swapify. Estos sistemas emplean IA para superponer el rostro de una persona sobre el cuerpo de otra. En esta categoría, los investigadores verificaron si las apps permitían colocar el rostro de una mujer vestida sobre el cuerpo desnudo de otra persona, generando así imágenes sexualizadas sin consentimiento.

Los resultados demostraron que las aplicaciones identificadas carecen de mecanismos de seguridad eficaces para impedir la generación de contenido sexual sugerente, incluso cuando sus propios términos de uso prohíben explícitamente este tipo de material. En la práctica, dichas restricciones resultan fácilmente eludibles o son simplemente inexistentes.