La plataforma X de Elon Musk ha limitado la edición de imágenes con su herramienta de IA, Grok, solo a usuarios que pagan. Esto ocurrió después de fuertes críticas por permitir que personas crearan ‘deepfakes’ sexualizados sin consentimiento.
Hubo una gran reacción negativa cuando se supo que el chatbot aceptaba peticiones de usuarios para alterar digitalmente fotos de otras personas, quitándoles la ropa. Ahora, Grok informa a quienes piden ese material que solo los suscriptores de pago podrán hacerlo, lo que significa que deben tener su nombre e información de pago registrados.
La BBC contactó a X para obtener comentarios. Los no suscriptores aún pueden usar Grok para editar imágenes en su aplicación y sitio web separados.
La profesora Clare McGlynn, experta en regulación legal de pornografía y violencia online, dijo: “Musk ha hecho un berrinche por que lo responsabilicen del tsunami de abusos. En vez de tomar medidas responsables para que Grok no se use para fines abusivos, ha restringido el acceso a la gran mayoría de usuarios”.
Hannah Swirsky, de la Internet Watch Foundation, señaló que esto “no repara el daño ya causado”. Afirmó: “No creemos que sea suficiente solo limitar el acceso a una herramienta que nunca debió tener la capacidad de crear las imágenes que hemos visto”. La organización benéfica había dicho antes que sus analistas descubrieron “imágenes criminales” de niñas de 11 a 13 años que “parecían creadas” con Grok. Swirsky añadió: “Es inaceptable sentarse a esperar a que productos inseguros sean abusados antes de actuar”.
Esto llega después de que el gobierno instara al regulador Ofcom a usar todos sus poderes, incluso una prohibición efectiva, contra X por imágenes ilegales generadas con IA en el sitio. El Primer Ministro Keir Starmer calificó las imágenes sexualizadas de adultos y niños generadas por Grok como “vergonzosas” y “repugnantes”. Dijo que Ofcom tiene el “pleno apoyo” del gobierno para actuar y que “es ilegal. No lo toleraremos. He pedido que todas las opciones estén sobre la mesa”. Fuentes gubernamentales dijeron a la BBC: “Esperamos que Ofcom use todos sus poderes respecto a Grok y X”.
Los poderes de Ofcom bajo la Ley de Seguridad Online incluyen poder solicitar una orden judicial para impedir que terceros ayuden a la plataforma de Musk a recaudar dinero o ser accesible en el Reino Unido. La BBC también contactó al regulador.
Grok es una herramienta gratis que los usuarios pueden etiquetar en publicaciones para pedir respuestas. Pero la función también permitía pedirle que editara imágenes y quitara digitalmente la ropa a las personas. Grok cumplió muchas peticiones de editar fotos de mujeres para mostrarlas en bikini o con poca ropa, algo que las afectadas describieron como “humillante” y “deshumanizante”.
Sin embargo, desde el viernes por la mañana, Grok dice a los usuarios que piden alterar imágenes subidas a X que “la generación y edición de imágenes están limitadas actualmente a suscriptores de pago”. Añade que pueden “suscribirse para desbloquear estas funciones”. Algunas publicaciones vistas por la BBC sugieren que solo aquellos con la marca de verificación (la ‘palomita azul’), exclusiva para suscriptores de pago, lograron editar imágenes con Grok.
La Dra. Daisy Dixon, usuaria de X que vio un aumento en personas usando Grok para ‘desnudarla’, recibió bien el cambio pero dijo que se siente “como un parche temporal”. Declaró a la BBC: “Grok necesita rediseñarse totalmente y tener barreras éticas incorporadas para prevenir que esto vuelva a pasar. Elon Musk también debe reconocer esto por lo que es: otra instancia de violación basada en género”.
La profesora McGlynn dijo que la medida de X repite su enfoque con los ‘deepfakes’ pornográficos de Taylor Swift el año pasado, donde bloqueó búsquedas de ese material. Añadió: “Él hace esto para avivar argumentos sobre la libertad de expresión. Dirá que la regulación reprime el uso de esta tecnología. Pero la regulación solo requiere que tome las precauciones necesarias para reducir el daño”.