John Oliver habló sobre los peligros de la IA en su programa semanal de HBO, diciendo que es "preocupantemente corrosivo" para la sociedad.
En Last Week Tonight, Oliver mencionó que "la difusión de herramientas de generación de IA ha hecho muy fácil inundar las redes sociales con contenido barato, de apariencia profesional y a veces muy raro", usando el término AI slop para describirlo.
Lo llamó la "última versión del spam", con imágenes y videos extraños llenando los feeds de la gente, y muchas personas "no tienen ni idea de que no es real".
Oliver dijo que es "extremadamente probable que estemos ahogándonos en esta mierda en el futuro cercano".
Con este tipo de contenido, "el objetivo principal es llamar tu atención", y como es tan fácil de crear, la barrera de entrada se ha reducido.
Meta no solo se unió al juego con su propia herramienta, sino que también cambió su algoritmo, haciendo que más de un tercio del contenido en tu feed sea de cuentas que no sigues. "Así es como el slop se cuela sin tu permiso", explicó.
Hay programas de monetización para quienes se vuelven virales, y ahora hay gurús del AI slop que enseñan cómo hacerlo por poco dinero.
Es "al final un juego de volumen, como cualquier forma de spam", y ha llevado a que generadores de IA roben el trabajo de artistas reales sin darles crédito. Pero, "a pesar de lo que dicen esos gurús sobre riquezas, el dinero aquí puede ser muy poco".
Pueden ser solo unos centavos o, si se vuelve mega-viral, cientos de dólares, lo que atrae a personas de países como India, Tailandia, Indonesia y Pakistán, donde el dinero rinde más.
Un problema es explicar a los padres que el contenido no es real. "Si ves un animal tan lindo que parece irreal y no es Moo Deng, probablemente sea IA", comentó.
También hay un impacto ambiental por los recursos necesarios para producirlo, además de la preocupante difusión de desinformación.
Oliver habló de falsos desastres creados con imágenes de tornados, explosiones y accidentes aéreos que nunca existieron. "El viaje en avión ya da miedo, sin que la gente invente más desgracias", dijo.
La IA generativa se usó en el conflicto entre Israel e Irán, y causó problemas durante las inundaciones en Carolina del Norte. Los republicanos la usaron para criticar a Biden con imágenes falsas, a pesar de que les dijeron que no eran reales.
"Es increíble que los mismos que gritaban ‘fake news’ por una década ahora se crean noticias falsas de verdad", señaló.
Aunque no fue tan dañino como se temía en las elecciones de EE.UU., la IA ahora es "mucho mejor que antes".
"No solo podemos ser engañados, sino que esto permite que malos actores descarten videos e imágenes reales como falsas", agregó.
Oliver dijo que todo esto es "peligrosamente corrosivo para la realidad objetiva", y que a las plataformas les cuesta más detectar la IA.
"No digo que todo esto no sea divertido, digo que puede ser muy peligroso", concluyó.