El modelo de inteligencia artificial Grok de Elon Musk ya no podrá editar fotos de personas reales para mostrarlas con ropa reveladora en jurisdicciones donde sea ilegal, esto tras una gran preocupación por los deepfakes sexualizados creados por IA.
"Hemos implementado medidas tecnológicas para evitar que la cuenta de Grok permita la edición de imágenes de personas reales con poca ropa", se lee en un anuncio en X.
Reaccionando a la prohibición, el gobierno del Reino Unido afirmó sentirse "reivindicado" después de que el Primer Ministro Sir Keir Starmer pidiera a X que controlara su herramienta de IA.
El cambio se anunció horas después de que el fiscal general de California dijera que el estado estaba investigando la propagación de deepfakes sexuales generados por IA, incluidos de niños.
"Ahora bloqueamos geográficamente la capacidad de todos los usuarios para generar imágenes de personas reales en bikini, ropa interior y atuendos similares a través de la cuenta Grok en aquellas jurisdicciones donde es ilegal", dijo X en un comunicado el miércoles.
También reiteró que solo los usuarios que pagan podrán editar imágenes usando Grok en su plataforma. Esto añadirá una capa extra de protección al ayudar a garantizar que quienes intenten abusar de Grok para violar la ley sean responsabilizados, según el comunicado.
Con la configuración NSFW (no seguro para el trabajo) activada, Grok debe permitir "desnudos del torso superior de humanos adultos imaginarios (no reales)", consistente con lo que se ve en películas para mayores de 17 años, escribió Musk en línea.
"Ese es el estándar de facto en América. Esto variará en otras regiones según las leyes de cada país", dijo el multimillonario tecnológico.
Musk había defendido anteriormente a X, publicando que los críticos "solo quieren suprimir la libertad de expresión" junto con dos imágenes generadas por IA del Primer Ministro británico en bikini.
En los últimos días, líderes mundiales han criticado la función de edición de imágenes de Grok.
El fin de semana pasado, Malasia e Indonesia se convirtieron en los primeros países en prohibir la herramienta Grok después de que usuarios denunciaran que sus fotos fueron alteradas para crear imágenes explícitas sin su consentimiento.
El regulador de medios británico, Ofcom, dijo el lunes que investigará si X incumplió la ley del Reino Unido sobre las imágenes sexuales. Si se descubre que violó la ley, Ofcom podría multar a X con hasta el 10% de sus ingresos mundiales o 18 millones de libras, lo que sea mayor.
Y si X no cumple, Ofcom podría buscar una orden judicial para obligar a los proveedores de internet a bloquear el acceso al sitio en el Reino Unido por completo.
Sir Keir advirtió que X podría perder el "derecho a autorregularse" tras la polémica, pero luego dijo que le alegraban los informes de que X estaba tomando medidas. Dijo que "tomaría las medidas necesarias" y fortalecería la legislación si X no actuaba.
Había condenado previamente las imágenes creadas por la herramienta como "repugnantes y vergonzosas", y dijo que la decisión de "convertir esto en un servicio premium es horrible". X dijo luego que los cambios en Grok aplicarían a "todos los usuarios, incluidos los suscriptores de pago".
El fiscal general de California, Rob Bonta, dijo el miércoles: "Este material, que muestra a mujeres y niños en situaciones desnudas y sexualmente explícitas, se ha usado para acosar a personas en internet".
La investigadora de políticas Riana Pfefferkorn dijo que le sorprende que X tardara tanto en desplegar las salvaguardias y que las funciones de edición debieron eliminarse tan pronto como comenzaron los abusos.
Quedan preguntas sobre cómo X hará cumplir sus nuevas políticas, como cómo sabrá el modelo si una imagen es de una persona real y qué acciones tomará cuando los usuarios rompan las reglas, dijo Pfefferkorn.
Musk no ha presentado a la compañía de manera seria tampoco, agregó, y ayudaría si él dejara de "hacer cosas como republicar una imagen de Keir Starmer en bikini generada por IA".