El Consejo de Ministros de España aprobó este martes un anteproyecto de ley para frenar los deepfakes generados por IA y endurecer las normas de consentimiento sobre el uso de imágenes, en un contexto en el que los estados europeos avanzan hacia una regulación más estricta del contenido sexual creado artificialmente. La normativa refuerza la protección de los menores, establece los 16 años como la edad mínima para prestar consentimiento sobre el uso de la propia imagen y limita la reutilización de fotografías en línea, así como de voces o semblantes generados por IA sin autorización.
La Unión Europea está intensificando sus esfuerzos para regular los deepfakes, con nuevas normas que exigen a los estados miembros tipificar como delito los contenidos sexuales no consentidos para 2027. «El hecho de que las personas compartan imágenes personales o familiares en redes sociales no confiere libertad absoluta para utilizar esas imágenes en otros contextos», declaró el ministro de Justicia, Félix Bolaños. La reforma aborda también de forma expresa la inteligencia artificial, considerando ilícito el uso de la imagen o voz de una persona generada mediante IA con fines publicitarios o comerciales sin su consentimiento.
Bolaños precisó que se permitirán los usos creativos, satíricos o de ficción que involucren a figuras públicas, siempre que dicho contenido se identifique claramente como generado por IA. Esta iniciativa legislativa llega en un momento de escrutinio global de las herramientas de IA, incluyendo el chatbot Grok de xAI, de Elon Musk, que está siendo investigado por presuntamente generar deepfakes sexualmente explícitos. A principios de mes, el gobierno español solicitó a la Fiscalía que evaluara si determinados contenidos generados por IA podrían constituir pornografía infantil, una petición que, según Reuters, la Fiscalía General del Estado está analizando.
El anteproyecto de ley deberá someterse aún a consultas antes de volver al gobierno para su aprobación definitiva y remisión al Parlamento. Paralelamente, el regulador mediático británico inició el lunes una investigación sobre X, de Elon Musk, ante la preocupación de que su chatbot de IA, Grok, estuviera creando imágenes íntimas sexualizadas falsas, lo que violaría su obligación de proteger a los usuarios en el Reino Unido de contenidos ilegales.
El gobierno británico anunció que esta misma semana entrará en vigor una nueva ley que tipifica como delito la creación de deepfakes sexuales, para combatir unas imágenes a las que calificó de «armas de abuso». La ministra de Tecnología, Liz Kendall, informó a los legisladores de que el gobierno también planea una legislación que aborde el problema en su origen, prohibiendo a las empresas suministrar herramientas diseñadas específicamente para crear deepfakes.
La investigación de Ofcom añade presión adicional a la plataforma del hombre más rico del mundo, que ya enfrenta un creciente clamor público, así como investigaciones penales y regulatorias en todo el mundo, desde Francia hasta la India. «Los informes sobre el uso de Grok para crear y compartir imágenes íntimas no consentidas ilegales y material de abuso sexual infantil en X son profundamente preocupantes», señaló el regulador en un comunicado.
Las plataformas deben proteger a las personas en el Reino Unido de los contenidos ilegales, subrayó Ofcom, añadiendo que no «dudará en investigar cuando sospeche que las compañías están incumpliendo sus obligaciones, especialmente cuando exista un riesgo de daño para los menores». Consultada el lunes sobre la investigación, X hizo referencia a una declaración anterior en la que afirmaba tomar medidas contra el contenido ilegal en su plataforma, incluido el material de abuso sexual infantil, mediante su eliminación, la suspensión permanente de cuentas y la colaboración con gobiernos y fuerzas de seguridad. «Cualquier persona que utilice o incite a Grok para generar contenido ilegal enfrentará las mismas consecuencias que si lo hubiera subido directamente», aseguró la compañía.