El Ministerio de Seguridad del Estado de China ha advertido que fuerzas extranjeras hostiles han utilizado deepfakes y otras tecnologías de inteligencia artificial (IA) para crear pánico público y obtener información sensible, lo que representa una amenaza para la seguridad nacional.
La tecnología deepfake, que usa algoritmos de aprendizaje profundo para simular y falsificar imágenes, audio y video, puede ser mal utilizada de forma maliciosa. Esto pone en peligro los derechos legales individuales, la estabilidad social y la seguridad nacional, según un artículo publicado el viernes por el MSS.
El ministerio afirmó que algunas "fuerzas hostiles extranjeras anti-China" han usado esta tecnología para generar videos falsos, intentando difundirlos dentro del país para "desinformar a la opinión pública y generar pánico".
Además, el uso de IA puede provocar filtraciones de datos y riesgos de seguridad. Se citó un caso en el que empleados usaron herramientas de IA de código abierto que permitían ver archivos sin contraseña, facilitando que una dirección IP extranjera accediera y descargara datos confidenciales.
También se alertó sobre el sesgo algorítmico, donde los grandes modelos de lenguaje pueden amplificar la discriminación si los datos de entrenamiento reflejan prejuicios sociales o subrepresentan ciertos temas.
Para combatir estos riesgos, el ministerio recomienda a los usuarios ser cautelosos al otorgar permisos de acceso, evitar usar IA basada en la web para procesar datos sensibles, no guardar contraseñas de pago y desactivar el intercambio de datos y el almacenamiento en la nube. También deberían monitorear su "huella digital", borrar periódicamente los historiales de chat de IA, actualizar el antivirus y mantenerse alerta cuando se les pidan datos personales o de cuentas bancarias.
Desde la India hasta China, cómo los deepfakes están transformando la política asiática.