La Comisión Europea ha iniciado una investación sobre la plataforma X de Elon Musk. Esto se debe a preocupaciones de que su herramienta de IA, Grok, se usó para crear imágenes sexualizadas de personas reales.
Esta acción llega después de un anuncio similar en enero por el regulador británico Ofcom.
Si se descubre que el sitio violó las normas de la UE bajo la Ley de Servicios Digitales, la Comisión podría multar a la empresa con hasta un 6% de su facturación anual mundial.
Una declaración anterior de la cuenta de Seguridad de X afirmó que la plataforma había impedido que Grok alterara digitalmente imágenes de personas para quitarles la ropa en "jurisdicciones donde ese contenido es ilegal".
Regina Doherty, miembro del Parlamento Europeo por Irlanda, dijo que la Comisión evaluará si se han mostrado "imágenes sexuales manipuladas" a usuarios en la UE.
Activistas y víctimas declararon que la capacidad de generar esas imágenes con la herramienta nunca debió ocurrir, y Ofcom señaló que su investigación continuará.
El regulador de la UE declaró que podría "imponer medidas provisionales" si X se niega a hacer ajustes significativos.
También amplió su investigación en curso, iniciada en diciembre de 2023, sobre los riesgos asociados con los sistemas de recomendación de X, el algoritmo que sugiere publicaciones específicas a los usuarios.
Antes del anuncio de la Comisión, Elon Musk publicó una imagen en X el lunes aparente burlándose de las nuevas restricciones sobre Grok.
El dueño de X ya había criticado a quienes escrutinan la función de edición de imágenes de la app, especialmente al gobierno británico, llamándolo "cualquier excusa para la censura".
El domingo, la cuenta de Grok en X afirmó que se generaron más de 5.500 millones de imágenes con la herramienta en solo 30 días.
Hay otras investigaciones en curso sobre el chatbot en Australia, Francia y Alemania.
Grok fue prohibido temporalmente en Indonesia y Malasia, aunque este último país ya levantó la prohibición.
Henna Virkkunen, Vicepresidenta Ejecutiva para la Soberanía Tecnológica, Seguridad y Democracia de la Comisión, calificó los deepfakes sexuales como una "forma violenta e inaceptable de degradación".
"Con esta investigación, determinaremos si X cumplió sus obligaciones legales bajo la DSA, o si trató los derechos de los ciudadanos europeos, incluidos los de mujeres y niños, como daños colaterales de su servicio", declaró.
En un comunicado a Reuters, Doherty dijo que hay "preguntas serias" sobre si plataformas como X cumplen la obligación legal de "evaluar riesgos correctamente y prevenir que contenido ilegal y dañino se difunda".
"La Unión Europea tiene reglas claras para proteger a las personas en línea", dijo. "Esas reglas deben significar algo en la práctica, especialmente cuando tecnologías poderosas se despliegan a gran escala. Ninguna empresa que opera en la UE está por encima de la ley".
Este movimiento llega un mes después de que la UE multara a X con 120 millones de euros por sus distintivos de verificación azul, diciendo que "engañan a los usuarios" porque la empresa no verifica de manera significativa quién está detrás de la cuenta.
En respuesta, el Secretario de Estado de EE.UU., Marco Rubio, y la Comisión Federal de Comunicaciones (FCC) acusaron al regulador europeo de atacar y censurar a empresas estadounidenses.
"La multa de la Comisión Europea no es solo un ataque a X, es un ataque a todas las plataformas tecnológicas estadounidenses y al pueblo estadounidense por gobiernos extranjeros", afirmó.
Sus declaraciones fueron compartidas por Musk, quien añadió "absolutamente".