Informe: La IA Grok de Elon Musk utilizada para crear imágenes de abuso infantil
La Fundación para la Vigilancia de Internet (IWF) ha reportado que criminales han utilizado Grok, la inteligencia artificial de Elon Musk, para generar imágenes de abuso sexual infantil.
Durante días, la IWF recibió informes de usuarios sobre la creación de este tipo de imágenes por Grok, pero el contenido no habia cruzado el umbral hacia lo ilegal. Ahora, confirman que sí lo ha hecho.
Esta organización es una de las pocas en el mundo autorizada para rastrear proactivamente material de abuso infantil y lo encontró en un foro de la dark web. Los usuarios que compartían el material se jactaban de haber usado Grok para crearlo.
“Tras los informes de que el chatbot Grok ha generado imágenes sexuales de niños, podemos confirmar que nuestros analistas han descubierto material criminal de niños entre 11 y 13 años que parece haber sido creado con la herramienta”, declaró Ngaire Alexander, jefa de la línea directa de la IWF.
Tanto X como xAI, propiedad del multimillonario Elon Musk, enfrentan críticas después de que numerosos usuarios, principalmente mujeres, publicaron que vieron imágenes sexuales generadas por IA de sí mismas en X.
Más sobre Inteligencia Artificial
X enfrenta reacción por deepfakes
Desde comienzos de año, usuarias de X han reportado que cuentas usaron Grok para generar imágenes suyas sin ropa. Un análisis de la agencia Reuters también identificó varios casos donde Grok creó imágenes sexualizadas de niños.
La Sra. Alexander añadió: “El material que hemos visto no está en X, sino en un foro de la dark web donde usuarios alegan usar Grok Imagine para crearlo, incluyendo imágenes sexualizadas y de niñas sin ropa. Bajo la ley británica, lo visto se consideraría material de Categoría C. Luego, el usuario usa esas imágenes como punto de partida para crear videos mucho más extremos, de Categoría A, usando otra herramienta de IA. El daño se extiende. No hay excusa para lanzar productos al público que puedan usarse para abusar y dañar personas, especialmente niños”.
Más noticias de tecnología:
- Robots con capacidades humanas están por llegar.
- Usuarios de pornografía ‘aún ven contenido sin verificación de edad’.
Tanto Ofcom como la Secretaria de Tecnología, Liz Kendall, han advertido a X que actúe contra las imágenes abusivas generadas por su IA. Ayer, la Sra. Kendall dijo: “Lo visto en línea estos días es absolutamente espantoso e inaceptable en una sociedad decente. X debe ocuparse de esto con urgencia”.
En una entrevista, el ministro de IA y seguridad en línea, Kanishka Narayan, calificó las imágenes creadas por Grok de “completamente inaceptables”. Preguntado sobre si el gobierno arriesgaría su relación con la administración Trump para hacer cumplir las normas de seguridad en línea del Reino Unido contra X, respondió: “El presidente estadounidense está tan en contra del abuso sexual infantil como el público británico. Esto es política doméstica. Seguiremos protegiendo al público de estos ejemplos atroces de abuso y acoso sexual en línea”.
El miércoles, Musk dijo que se lanzó una nueva versión de Grok e instó a actualizar la app, aunque no se detallaron los cambios. El magnate ha insistido en que “quien use Grok para contenido ilegal sufrirá las mismas consecuencias que si subiera contenido ilegal”.
X afirma que actúa contra contenido ilegal, “eliminándolo, suspendiendo cuentas permanentemente y colaborando con gobiernos y la ley”. Sky News ha contactado a X para obtener comentarios.