La UE prohíbe crear imágenes sexualizadas con IA sin consentimiento

Las instituciones de la Unión Europea alcanzaron este jueves un acuerdo para prohibir la creación de imágenes sexualizadas generadas con inteligencia artificial sin el consentimiento de las personas afectadas. El pacto, cerrado de madrugada, prohíbe los sistemas de IA cuyo único propósito es generar ese tipo de contenido o material de abuso sexual infantil, así como aquellos de uso múltiple que no cuenten con medidas de seguridad adecuadas para evitar su propagación.

La prohibición responde al escándalo generado por la herramienta Grok, de la red social X, que permitió crear fotografías sexualizadas con IA. La normativa da plazo hasta fin de año para que las empresas diseñen protecciones. “Nuestras empresas y ciudadanos quieren dos cosas de las reglas de IA: poder innovar y sentirse seguros. El acuerdo de hoy hace ambas cosas”, afirmó en redes sociales la vicepresidenta de la Comisión Europea para política digital, Henna Virkkunen.

La iniciativa fue impulsada por España junto a Francia y Alemania. El ministro español para la Transformación Digital, Óscar López, señaló que “España sigue liderando el despliegue de un modelo europeo propio de IA, que ha de caracterizarse por ser el más confiable de todos”. La UE añade así una limitación adicional a la generación de este contenido, ya perseguido por el derecho penal en los Estados miembros.

Además, las instituciones comunitarias retrasaron hasta diciembre de 2026 la obligación de incorporar marcas de agua a todo contenido generado con IA (fotos, videos o audio) para que los usuarios puedan detectar su origen artificial. También pospusieron hasta diciembre de 2027 las obligaciones para sistemas de alto riesgo, como los usados en infraestructuras críticas, banca, contratación o control fronterizo. Inicialmente previstas para este año, las exigencias se retrasaron 16 meses porque Bruselas aún no ha definido los requisitos técnicos de seguridad.

El acuerdo permite el procesamiento de datos personales cuando sea “estrictamente necesario para detectar y corregir sesgos” en los sistemas de IA durante su entrenamiento. Con el objetivo de reducir la carga burocrática, se eximió a sectores como dispositivos médicos, juguetes o ascensores de cumplir requisitos de transparencia si ya están regulados por otras normas. “Para que Europa se convierta en un continente de IA, necesitamos promover la innovación y apoyar a las empresas emergentes”, dijo la eurodiputada Arba Kokalari, ponente de la reforma.

La organización CCIA Europe, que representa a las grandes tecnológicas, rechazó la reforma. “Dadas las mínimas mejoras introducidas en la Ley de IA, resulta difícil ignorar la enorme brecha entre la retórica política sobre simplificación regulatoria y los resultados concretos”, señaló en un comunicado.