Cómo evitar que Grok te muestre en bikini sin tu consentimiento

Decenas de usuarios de X (antes Twitter) han utilizado en días recientes las capacidades de Grok, el chatbot de inteligencia artificial (IA) desarrollado por xAI (empresa fundada por Elon Musk), para generar versiones sexualizadas de fotografías de mujeres y niños sin su consentimiento. La práctica ha sido denunciada por diversas autoridades de protección a la privacidad y organizaciones civiles, y persiste pese a las advertencias emitidas por la plataforma sobre el posible bloqueo de cuentas que incurran en este tipo de conductas.

El uso indebido de Grok ha sido ampliamente documentado por la prensa internacional. Diversos reportes dan cuenta de usuarios que solicitan al asistente de IA modificar imágenes públicas, principalmente de celebridades, influencers y mujeres que no necesariamente son figuras públicas, con el fin de mostrar a las personas retratadas en bikini o con atuendos sugerentes. También se han detectado peticiones explícitas como “ponla en bikini”, “quítale la ropa” o “hazla más sexy”, utilizadas incluso para alterar fotografías de menores de edad, lo que ha encendido alertas a nivel global.

La situación generó una oleada de indignación internacional. El gobierno de Francia fue el primero en reaccionar al presentar una denuncia formal en contra de Grok por facilitar la creación y difusión de “contenidos de carácter sexista y sexual”, de acuerdo con información de la agencia EFE. Las autoridades francesas solicitaron a la Autoridad de Regulación de la Comunicación Audiovisual y Digital (Arcom) que determine si X ha incumplido las obligaciones establecidas en el Reglamento de Servicios Digitales de la Unión Europea, particularmente en lo referente a la prevención de la difusión de contenidos ilícitos.

Elon Musk: de la difusión a la moderación

Elon Musk, quien en un inicio pareció minimizar o incluso fomentar la tendencia, emitió posteriormente una advertencia pública al señalar que “cualquiera que use Grok para crear contenido ilegal sufrirá las mismas consecuencias que si subiera contenido ilegal directamente a la plataforma”. La declaración buscó marcar distancia frente a las acusaciones y reforzar la postura oficial de la compañía.

Dicha posición fue respaldada por un portavoz de X, quien, citado por el diario británico The Guardian, aseguró: “Tomamos medidas contra el contenido ilegal en X, incluido el material de abuso sexual infantil (CSAM), eliminándolo de la plataforma, suspendiendo de forma permanente las cuentas involucradas y colaborando con los gobiernos locales y las fuerzas del orden cuando es necesario”.

De acuerdo con diversos medios internacionales, la red social reconoció que la situación se originó por “fallos en las salvaguardas” implementadas en la configuración de Grok. Ante la presión pública y gubernamental, la empresa prometió corregir el problema de manera inmediata a través de la restricción de ciertas funciones relacionadas con el procesamiento y la generación de imágenes.

Este lunes, la Office of Communications (Ofcom), autoridad reguladora independiente y de competencia para las industrias de la comunicación en el Reino Unido, informó que se puso en contacto con X y xAI para solicitar información detallada sobre las medidas adoptadas en el caso. El organismo señaló que dará seguimiento a la respuesta de las empresas para evaluar si es necesario abrir una investigación formal con el fin de garantizar la protección de los usuarios dentro de su jurisdicción.

En paralelo, la organización francesa sin fines de lucro AI Forensics publicó un análisis detallado sobre el fenómeno. Tras examinar cerca de 50,000 menciones de @Grok en X y aproximadamente 20,000 imágenes generadas por el asistente entre el 25 de diciembre y el 1 de enero, el grupo encontró que alrededor de una cuarta parte de los resultados correspondían a solicitudes que incluían términos como “ella”, “poner”, “quitar”, “bikini” y “ropa”.