Elon Musk, en el centro del escándalo de deepfakes de Grok.
Crédito: Creative Salim – Shutterstock
El 10 de enero de 2026, Indonesia acaparó los titulares al convertirse en el primer país del mundo en bloquear temporalmente el acceso al chatbot de inteligencia artificial Grok, desarrollado por la empresa xAI de Elon Musk. La decisión, anunciada por la ministra de Comunicaciones y Asuntos Digitales, Meutya Hafid, fue motivada por la preocupación ante la capacidad de la IA para generar imágenes falsas de desnudos, en particular *deepfakes* sexuales no consentidos que manipulan fotografías de personas reales (incluidas mujeres y niñas) para mostrarlas desvestidas o en situaciones explícitas. Pero, ¿se trata de una cuestión sobre las capacidades de la tecnología o sobre la persona detrás de la empresa, es decir, Elon Musk?
La ministra declaró: “Con el fin de proteger a las mujeres, los niños y al público de los riesgos del contenido pornográfico falso generado mediante tecnología de inteligencia artificial, el gobierno… ha bloqueado temporalmente el acceso a la aplicación Grok”. Subrayó además que el gobierno considera “la práctica de *deepfakes* sexuales no consentidos como una grave violación de los derechos humanos, la dignidad y la seguridad de los ciudadanos en el espacio digital”. Indonesia, que cuenta con leyes estrictas contra la difusión de contenido obsceno en línea, también citó a responsables de X para abordar el asunto.
Un precedente establecido – ¿Seguirán el ejemplo el Reino Unido, Canadá y Australia?
Esta medida se produce tras numerosos informes a finales de diciembre de 2025 y principios de enero de 2026 sobre el uso indebido de las funciones de generación y edición de imágenes de Grok. Los usuarios podían subir o referenciar fotografías y pedir a la IA que “desvistiera” a individuos, creara imágenes parcialmente desnudas o produjera contenido explícito —en ocasiones a un ritmo de docenas de imágenes degradantes por minuto. Entre los ejemplos se incluían la falsificación de imágenes de mujeres “sosteniendo un bebé y bajándose la ropa para amamantar” o la alteración de fotos de grupo de mujeres vestidas alegando que “eran hombres” para justificar la eliminación de la indumentaria. También surgieron preocupaciones por la generación de material de abuso sexual infantil, lo que provocó el rechazo de organizaciones como la Internet Watch Foundation.
Lo más leído en Euro Weekly News
Ahora que Indonesia ha establecido este precedente con un bloqueo nacional temporal, países como el Reino Unido, Canadá y Australia podrían imitarla. El Reino Unido ya está evaluando posibles medidas en virtud de la Ley de Seguridad en Línea, y los cargos públicos han expresado una firme condena hacia dicho contenido. El primer ministro australiano, Anthony Albanese, ha manifestado su inquietud ante el material explotativo generado por IA, mientras que otras naciones como la India y partes de Europa han emitido advertencias o iniciado revisiones.
Las capacidades de Grok, accesibles para usuarios de pago, mientras Gemini y Chat-GPT están restringidos
La capacidad para producir estos “*deepfake nudes*”, es decir, imágenes manipuladas de alta calidad y convincentes a partir de fotos de personas vestidas, no es exclusiva de Grok ni una característica deliberada integrada específicamente en su programación. Otros modelos de IA importantes, como Gemini de Google y ChatGPT de OpenAI (con herramientas de generación de imágenes como DALL·E), también pueden crear resultados similares si se les solicita de manera astuta, con niveles de calidad más o menos equiparables. La diferencia radica en que Gemini y ChatGPT están diseñados con sólidas barreras éticas que impiden el tipo de generación de imágenes *deepfake* realistas y sin restricciones por el que Grok ha sido criticado (y a veces elogiado). Esta divergencia procede de la filosofía de xAI de mínima censura, frente a las posturas más centradas en la seguridad de Google y OpenAI. La brecha ha convertido a Grok en la opción preferida para usuarios que buscan menos límites, aunque ello conlleve una creciente controversia y escrutinio regulatorio en 2026. En respuesta a la protesta mundial, xAI restringió las capacidades de generación y edición de imágenes de Grok únicamente a suscriptores de pago (exigiendo datos personales para una posible rendición de cuentas), aunque los críticos argumentaron que esto no abordaba plenamente los riesgos. Elon Musk ha declarado previamente que cualquiera que utilice Grok para crear contenido ilegal afrontará las mismas consecuencias que si lo subiera directamente.
¿Hay algo más detrás de esto que las imágenes sexuales?
Entonces, ¿qué explica el intenso clamor centrado en Grok y no en los demás? La clave podría estar en la retórica. Cada mención de la historia enfatiza repetidamente “el Grok de Elon Musk”, mientras que nunca se menciona “el Gemini de Sundar Pichai” o “el ChatGPT de Sam Altman”, a pesar de que los tres son los destacados consejeros delegados de las empresas matrices detrás de estas IAs. Esto plantea una pregunta: ¿Hay algo personal contra Elon Musk en juego aquí?
Y para llevar la analogía más allá: si un talentoso pintor hiperrealista utilizara óleos y lienzo para crear una representación desnuda de una mujer conocida (sin su consentimiento), ¿ese artista afrontaría el mismo escrutinio legal o prohibiciones bajo leyes similares? La línea entre las herramientas tecnológicas y la expresión artística parece difusa, pero el foco sigue estando desproporcionadamente en una IA y en una figura. Se dice que el primer ministro británico, Keir Starmer, está considerando tomar medidas contra X para impedir que esta capacidad se utilice en el Reino Unido y posibles multas, al igual que el primer ministro australiano, Anthony Albanese, y el canadiense, Mark Carney.
Los debates sobre la seguridad de la IA, la libertad de expresión, la aplicación selectiva de la ley y la rapidez con que los gobiernos actúan cuando surgen controversias de alto perfil —especialmente las vinculadas a personalidades polarizantes— están en el centro de esta cuestión. El carácter temporal del bloqueo indonesio deja margen para una resolución, pero marca un primer paso significativo en las respuestas regulatorias globales a los potenciales de la IA generativa.