España busca prohibir los deepfakes sexuales con su nueva ley de IA

REGULACIÓN DE IA | España avanza en sus planes para regular los sistemas de inteligencia artificial (IA) con el objetivo de garantizar un uso supervisado y confiable de esta tecnología. El Consejo de Ministros aprobó el proyecto de Ley Orgánica para el Buen Uso y Gobernanza de la Inteligencia Artificial, una iniciativa que busca establecer la transparencia obligatoria de los algoritmos, responsabilizar a los directivos de las empresas por el uso de herramientas prohibidas y fijar multas millonarias para quienes incumplan la normativa.

Óscar López, titular del Ministerio para la Transformación Digital y de la Función Pública, señaló en rueda de prensa que el marco regulatorio, remitido al Congreso de los Diputados para su revisión, pretende proteger los derechos humanos frente al avance tecnológico. El funcionario aseguró que «España es un país líder mundial en el desarrollo y la adopción de la IA, pero también es el líder mundial en regulación. Cuando hablamos de un modelo de IA confiable, que proteja los derechos de los ciudadanos, somos el país más avanzado del mundo».

La Fiscalía de España investigará a X, Meta y TikTok por la proliferación de desnudos creados con IA. La responsabilidad penal no recaería únicamente en los usuarios que emplean herramientas de IA para generar imágenes sensibles, «sino que también podría haber responsabilidad dentro de las plataformas».

La propuesta adapta la legislación española a las disposiciones del Reglamento de Inteligencia Artificial (RIA) de la Unión Europea, vigente desde agosto de 2024. Sin embargo, incorpora varias novedades adicionales.

La iniciativa retoma el sistema de clasificación de los sistemas de IA según su potencial de riesgo, establecido en el RIA. Este mecanismo prohíbe aquellos modelos y aplicaciones que representan un peligro inaceptable para la seguridad o la salud de las personas. En esta categoría se encuentran, entre otros, los sistemas que utilizan técnicas subliminales para manipular decisiones; aquellos que explotan vulnerabilidades relacionadas con la edad, discapacidad o situación socioeconómica para alterar de manera sustancial el comportamiento de las personas y provocarles perjuicios considerables; las herramientas que emplean datos biométricos para clasificar usuarios, y las aplicaciones que califican a las personas con base en sus comportamientos sociales o rasgos personales.

El proyecto español también prohíbe la introducción en el mercado, la operación y el uso de sistemas de IA capaces de generar deepfakes sexuales, así como aquellos que puedan utilizarse para modificar contenido de abuso infantil. Esta disposición no estaba contemplada inicialmente en el RIA. No obstante, a principios de este mes, la Unión Europea acordó incorporarla al texto simplificado de la normativa digital comunitaria en la que trabaja, a petición de España y Francia.

Los sistemas de IA no prohibidos estarán sujetos a una serie de obligaciones para garantizar su permanencia en el mercado europeo. Entre ellas se encuentra la supervisión permanente de los algoritmos por parte de la Agencia de Supervisión de Inteligencia Artificial, la Agencia Española de Protección de Datos y el Consejo General del Poder Judicial.

Las empresas que desarrollen o comercialicen algoritmos de IA deberán presentar informes periódicos para actualizar su clasificación. La medida busca atender modelos o aplicaciones que aún no están disponibles o no fueron considerados inicialmente en la norma, con el fin de determinar si su uso puede mantenerse libre, estar sujeto a restricciones específicas o incluso ser prohibido.

Ley de IA: Sanciones millonarias

La normativa española también adopta el régimen de sanciones previsto en el RIA. De esta forma, las infracciones se clasificarán en muy graves, graves y leves. En los casos más severos, los responsables podrán enfrentar multas de hasta 35 millones de euros o el 7% del volumen global de su negocio, mientras que las faltas más leves podrían derivar en sanciones de hasta 500 000 euros o el 0.5% de la facturación anual. De manera específica, en el caso del uso de sistemas de IA prohibidos, la ley responsabiliza no solo a las entidades infractoras, sino también a los directivos de las mismas.

Esto supone un paso importante en la regulación de la IA en España, ya que busca proteger a los ciudadanos de los posibles riesgos asociados con esta tecnología.

Cómo Funcionan los Deepfakes y Por Qué Son Peligrosos

Los deepfakes son imágenes, videos o audios generados mediante inteligencia artificial (IA) que pueden simular la apariencia, voz o movimientos de personas reales de manera muy convincente. Esta tecnología utiliza algoritmos de aprendizaje profundo para analizar grandes cantidades de datos y crear contenido sintético que puede parecer realista. En el caso de los deepfakes sexuales, se utilizan para crear contenido explícito sin el consentimiento de las personas involucradas, lo que plantea graves riesgos para la privacidad y la dignidad.

Según un informe de la Universidad de California, Berkeley, en 2020 se detectaron más de 15.000 videos de deepfakes en internet, de los cuales el 90% eran de contenido sexual. Esto muestra la rápida propagación y el potencial de daño de esta tecnología. La creación y distribución de deepfakes sexuales no solo viola la privacidad de las personas, sino que también puede tener consecuencias legales y psicológicas graves para las víctimas.

Prevención y Detección de Deepfakes

Para combatir la propagación de deepfakes, es crucial desarrollar herramientas de detección efectivas. Las empresas de tecnología y los investigadores están trabajando en algoritmos que pueden identificar patrones y anomalías en videos y audios generados por IA. Por ejemplo, la aplicación de técnicas de análisis de movimiento facial y de la voz puede ayudar a detectar deepfakes con mayor precisión.

• La Agencia Española de Protección de Datos ha anunciado planes para colaborar con expertos en IA y seguridad para desarrollar herramientas de detección de deepfakes.
• La nueva ley de IA en España también contempla la creación de un registro de sistemas de IA que puedan ser utilizados para generar deepfakes, lo que permitirá un mejor seguimiento y control de estas tecnologías.

Impacto en la Sociedad y la Legislación

La regulación de los deepfakes sexuales es un paso importante hacia la protección de los derechos digitales y la privacidad de las personas. La ley española no solo busca prohibir la creación y distribución de este tipo de contenido, sino también responsabilizar a las empresas y a los individuos que lo permitan o promuevan. A medida que la tecnología sigue avanzando, es crucial que las legislaciones se adapten para proteger a los ciudadanos de los riesgos asociados con el uso indebido de la IA.