Elon Musk’s Grok. Crédito: JRdes, Shutterstock.
Un análisis reciente ha revelado que el chatbot de inteligencia artificial Grok, de xAI, generó aproximadamente tres millones de imágenes sexualizadas en solo once días, incluyendo contenido con mujeres y menores de edad, lo cual ha desatado una controversia internacional en torno a la ética, la seguridad y la regulación de la IA.
Entre finales de diciembre de 2025 y principios de enero de 2026, usuarios de Grok en X explotaron una nueva función de edición de imágenes en un clic para generar contenidos sexualizados y alterados digitalmente a partir de fotografías reales. Según una investigación del Centro para Contrarrestar el Odio Digital (CCDH), esto resultó en cerca de 3 millones de imágenes sexualizadas en 11 días, incluidas unas 23.000 que aparentaban representar a menores.
Hallazgos de la investigación del CCDH sobre Grok
El análisis, que tomó una muestra de millones de imágenes generadas, concluyó que Grok producía una media de 190 imágenes sexualizadas por minuto una vez que la función estuvo activa, mostrando muchas de ellas a personas en poses sugerentes o reveladoras según las indicaciones de los usuarios.
Lo más leído en Euro Weekly News
Informes independientes han subrayado cómo los usuarios pudieron indicar a Grok que “desvistiera” digitalmente a personas en fotos subidas –una modalidad de *deepfake* no consensuado–, incluyendo a mujeres y niñas.
Estos descubrimientos han provocado un rechazo global por parte de grupos de protección infantil, legisladores y defensores de derechos digitales, quienes argumentan que la facilidad para generar dicho material amplifica las violaciones del consentimiento y los riesgos de explotación.
La respuesta de Grok a las acusaciones
En respuesta a la polémica, los desarrolladores de Grok y X anunciaron restricciones. Para mediados de enero, X declaró que prohibiría a los usuarios generar imágenes sexualizadas de personas reales con ropa reveladora y limitaría la función en regiones donde sea ilegal.
Elon Musk y xAI han reconocido el problema, afirmando Musk que el sistema está diseñado para rechazar peticiones ilegales y que quienes creen material ilegal “sufrirán las mismas consecuencias que si lo hubieran subido directamente”. (Reuters)
Quienes defienden una amplia independencia tecnológica señalan que las políticas de contenido y la moderación de la IA siguen en evolución, y que el rápido ciclo de desarrollo de Grok pudo haber superado a los mecanismos de seguridad efectivos. Alegan que la libre expresión y la innovación no deberían verse restringidas indebidamente por una vigilancia de contenidos excesivamente amplia.
Gobiernos y reguladores se han tomado el asunto con seriedad. Ofcom inició una investigación bajo la Ley de Seguridad Online del Reino Unido para evaluar si X falló en proteger a los usuarios de contenido ilegal y dañino.
En Estados Unidos, la Fiscal General de California ha abierto una indagación para determinar si Grok violó la ley estatal al permitir la difusión de material explícito no consensuado en línea. (Business Insider)
También han llegado acciones legales en el ámbito civil: la influencer Ashley St. Clair (madre del hijo de Musk, Romulus St. Clair) presentó una demanda, alegando que sus fotos se utilizaron para generar *deepfakes* sexualmente explícitos que luego se diseminaron en X sin su consentimiento. (People.com)
Debate sobre seguridad de la IA versus innovación
Los críticos sostienen que este incidente enfatiza la necesidad de un gobierno de la IA más estricto y marcos legales que protejan la privacidad individual y prevengan el abuso –especialmente en el caso de los menores. Defensores de los derechos humanos, la seguridad infantil y la lucha contra el daño online han pedido reformas políticas y su aplicación de manera urgente.
Por el contrario, algunos advierten que una regulación excesiva podría frenar el desarrollo de la IA y limitar los usos beneficiosos de las herramientas generativas, señalando que otras plataformas de IA también enfrentan desafíos en la moderación de contenido.
Consulta todas las noticias de tecnología.