La herramienta de edición de imágenes de Grok, la IA de X, ahora está limitada a suscriptores de pago, según un mensaje del chatbot. El gobierno británico describió estos cambios como "insultantes".
Antes, los usuarios podían subir una foto y pedir a Grok que la altere, pero ahora el sistema responde: "La generación y edición de imágenes están actualmente limitadas a suscriptores de pago".
Esto ocurre después de que la Internet Watch Foundation (IWF) advirtiera que criminales usaron Grok para crear imágenes de abuso sexual infantil.
X enfrenta críticas por los deepfakes
El viernes, el gobierno afirmó que limitar el uso de la herramienta a usuarios pagantes "no es una solución", sino que prueba que la plataforma puede actuar rápido cuando quiere.
El portavoz del primer ministro dijo que la medida "simplemente convierte una función de IA que permite crear imágenes ilegales en un servicio premium".
"No es una solución. De hecho, insulta a las víctimas de la misoginia y la violencia sexual", declaró.
El primer ministro, Sir Keir Starmer, dijo previamente que el uso de Grok para crear imágenes ilegales era "vergonzoso" y "repugnante". Instó a X a "poner sus asuntos en orden" y "controlar esto".
"Si otra empresa tuviera vallas publicitarias en centros urbanos mostrando imágenes ilegales, actuaría de inmediato para retirarlas o enfrentaría una reacción pública", añadió su portavoz.
Tanto X como xAI, propiedad del magnate Elon Musk, han sido criticadas después de que numerosos usuarios, principalmente mujeres, publicaran que habían visto imágenes sexuales generadas por IA de sí mismas en X.
Imagen: PA
Ngaire Alexander, de la IWF, dijo el jueves: "Tras los informes de que Grok generó imágenes sexuales de niños, podemos confirmar que nuestros analistas descubrieron imágenes criminales de niños entre 11 y 13 años que parecen creadas con la herramienta".
El regulador Ofcom dijo que tuvo "contacto urgente" con X tras estos informes. El portavoz del primer ministro dijo que se consideran "todas las opciones", incluso que Ofcom use sus poderes para "tomar cualquier acción".
‘No es suficiente’
La medida de Grok de limitar la edición a suscriptores pagantes "no es suficiente", dijo Hannah Swirsky, de la IWF.
"Esta medida no repara el daño causado. No creemos que sea suficiente simplemente limitar el acceso a una herramienta que nunca debió tener la capacidad de crear las imágenes que hemos visto en los últimos días".
Dijo que las empresas deben crear productos que sean "seguros por diseño" y urgió al gobierno y a los reguladores a "obligarlas" a diseñar herramientas más seguras.
"Esperar sentados a que se abuse de productos inseguros antes de actuar es inaceptable", agregó.
Leer más de Sky News:
• Robots con capacidades humanas están por llegar
• Usuarios de pornografía ‘aún ven contenido sin verificaciones de edad’
El miércoles, Musk dijo que se lanzó una nueva versión de Grok y pidió a los usuarios actualizar su app, aunque no quedó claro qué mejoras incluía.
X insistió en su cuenta de X Safety que "cualquiera que use Grok para crear contenido ilegal enfrentará las mismas consecuencias que si lo subiera".
La empresa afirmó que actúa contra el contenido ilegal, incluido el material de abuso sexual infantil, "eliminándolo, suspendiendo cuentas permanentemente y colaborando con gobiernos y la policía según sea necesario".