Redes sociales interrogadas por mensajes ofensivos de IA
La empresa X ha sido cuestionada por diputados británicos sobre publicaciones generadas por inteligencia artificial calificadas como “las más espantosas y ofensivas” respecto a la tragedia de Hillsborough.
El fin de semana pasado, se descubrió que Grok, la herramienta de IA de X, culpaba falsamente a los aficionados del Liverpool del desastre de 1989, que causó 97 muertes, y utilizaba lenguaje despectivo sobre la ciudad.
Un análisis de Sky News también encontró publicaciones altamente ofensivas generadas por IA, con insultos contra el Islam y el Hinduismo, difamando a estas religiones con un vitriolo racista.
Durante una audiencia ante el comité de asuntos exteriores en Westminster, el lunes, el responsable de asuntos gubernamentales globales de X, Wifredo Fernández, fue interrogado sobre esta reciente oleada de publicaciones.
La diputada Emily Thornberry, presidenta del comité, las describió como “los mensajes más espantosos y ofensivos para las víctimas de Hillsborough” y preguntó a Fernández sobre las medidas tomadas por X.
“Entiendo que hubo algunas respuestas inaceptables”, declaró a los diputados. “Actuamos contra esas publicaciones según nuestras políticas y nuestros equipos de ingeniería están investigando el problema para evitar que se repita.”
El gobierno británico ya las había calificado previamente de “repugnantes e irresponsables”, diciendo que van en contra de los valores británicos.
Estas publicaciones ofensivas formaron parte de una tendencia de usuarios que pedían a X generar comentarios “vulgares”. Esto ocurre dos meses después de que la plataforma fuera amenazada con una prohibición en el Reino Unido por producir imágenes sexualizadas sin consentimiento de mujeres y niños.
Durante la audiencia, el diputado liberal demócrata Edward Morello acusó a X de “promover imágenes pedófilas con fines de lucro” durante dicho incidente.
Fernández afirmó que la compañía ha estado “trabajando diligentemente” desde entonces para implementar “barreras robustas” y asegurar que no vuelva a suceder. “Estamos de acuerdo en que fue inaceptable”, dijo.
Representantes de TikTok y Meta también comparecieron ante el mismo comité y fueron cuestionados sobre campañas encubiertas de información en sus plataformas que podrían socavar la democracia.
Los tres gigantes de las redes sociales afirmaron haber eliminado numerosas redes que intentaban interferir en los procesos democráticos de otros países, señalando que detrás de estas campañas maliciosas se encuentran comúnmente actores de Rusia, Irán y China.