Elon Musk ha dicho que los críticos de su red social X buscan "cualquier excusa para la censura", después de que su chatbot de inteligencia artificial Grok recibiera críticas por usarse para crear imágenes sexualizadas de personas sin su conocimiento o permiso.
Ofcom, el regulador británico, dice que está realizando una evaluación urgente de X en respuesta, con el apoyo de la secretaria de Tecnología, Liz Kendall. Pero las presidentas de los comités parlamentarios de tecnología y medios han dicho que les preocupa que "vacíos" en la Ley de Seguridad Online puedan dificultar la capacidad del regulador para manejar el asunto.
X ahora ha limitado el uso de la función de imágenes de IA a quienes pagan una tarifa mensual, un cambio calificado por Downing Street como "insultante" para las víctimas de violencia sexual. La BBC ha visto varios ejemplos de la herramienta gratuita desvistiendo a mujeres y poniéndolas en situaciones sexuales sin su consentimiento.
Ashley St Clair, madre de uno de los hijos de Elon Musk, contó a BBC Newshour que Grok había generado fotos sexualizadas de ella cuando era niña. La influencer conservadora dijo que su imagen fue "despojada" para aparecer "básicamente desnuda, agachada", a pesar de haberle dicho a Grok que no consentía esas imágenes. St Clair, quien demandó a Musk el año pasado buscando la custodia exclusiva de su hijo, acusó a la red social de "no tomar suficiente acción" contra contenido ilegal, incluidas imágenes de abuso sexual infantil. "Esto podría detenerse con un simple mensaje a un ingeniero", afirmó.
Hasta la mañana del viernes, Grok decía a los usuarios que pedían alterar imágenes subidas a X que "la generación y edición de imágenes están limitadas actualmente a suscriptores de pago", añadiendo que "puedes suscribirte para desbloquear estas funciones".
Un portavoz de Ofcom dijo: "Nos contactamos urgentemente [con X] el lunes y establecimos un plazo firme para hoy [viernes] para que se expliquen, a lo cual hemos recibido una respuesta. Ahora estamos realizando una evaluación acelerada con urgencia y daremos más actualizaciones pronto".
Los poderes de Ofcom bajo la Ley de Seguridad Online incluyen poder solicitar una orden judicial para impedir que terceros ayuden a X a recaudar dinero o ser accedido en el Reino Unido, si la empresa se niega a cumplir. Kendall ha dicho que espera una actualización de Ofcom en pocos días y que tendría el pleno apoyo del gobierno si decide bloquear X en el Reino Unido.
Pero Dame Chi Onwurah, presidenta del comité de innovación y tecnología, dijo estar "preocupada y confundida" sobre cómo se está "abordando realmente" el asunto, y ha escrito a Ofcom y a Kendall para aclaración. Dame Chi dijo que bajo la Ley de Seguridad Online no está "claro" si la creación de tales imágenes con IA es ilegal, ni la responsabilidad de las redes sociales por lo compartido en sus plataformas. "La ley debería hacer que algo tan dañino para tanta gente sea claramente ilegal, y la responsabilidad de X debería ser clara", dijo a BBC Radio 4.
Caroline Dinenage, presidenta del comité de cultura, medios y deporte, igualmente dijo temer que "haya un vacío en la regulación". "Hay dudas sobre si la Ley de Seguridad Online tiene realmente poder para regular la funcionalidad, es decir, la capacidad de la IA generativa de desnudar la imagen de alguien", declaró a BBC Breakfast.
El uso de Grok para generar imágenes sexualizadas sin consentimiento ha sido condenado por políticos de todos los bandos.