Andrea Colamedici inventó a un filósofo, lo presentó como autor y produjo un libro, generado secretamente con la ayuda de inteligencia artificial, sobre la manipulación de la realidad en la era digital. La gente fue engañada. Acusaciones de deshonestidad, mala ética e incluso ilegalidad volaron. Pero el hombre detrás de esto, el Sr. Colamedici, insiste en que no fue un engaño; más bien, lo describió como un “experimento filosófico”, diciendo que ayuda a mostrar cómo la IA “destruirá lentamente pero inevitablemente nuestra capacidad de pensar”. Sr. Colamedici es un editor italiano que, junto con dos herramientas de IA, generó “Hipnocracia: Trump, Musk y la Arquitectura de la Realidad”, un texto llamativo aparentemente escrito por Jianwei Xun, el filósofo inexistente. En diciembre, la editorial del Sr. Colamedici imprimió 70 copias de una edición italiana que supuestamente tradujo. Sin embargo, el libro rápidamente llamó la atención, siendo cubierto por medios en Alemania, España, Italia y Francia, y siendo citado por luminarias tecnológicas. “Hipnocracia” describe cómo las personas poderosas usan la tecnología para dar forma a la percepción con “narrativas hipnóticas”, poniendo al público en una especie de trance colectivo que puede ser exacerbado al depender de la IA. La publicación del libro ocurrió mientras escuelas, empresas, gobiernos y usuarios de Internet de todo el mundo luchan con cómo usar, y no usar, herramientas de IA, que gigantes tecnológicos y startups han puesto ampliamente disponibles. Sin embargo, el libro resultó ser también una demostración de su tesis, jugando en lectores desprevenidos. El libro, según el Sr. Colamedici, pretendía mostrar los peligros de la “apatía cognitiva” que podría desarrollarse si el pensamiento se delegara a las máquinas y si las personas no cultivaran su discernimiento. “Traté de crear una actuación, una experiencia que no sea solo el libro”, dijo. El Sr. Colamedici enseña lo que llama “el arte de la provocación”, o cómo hacer preguntas inteligentes a la IA y darle instrucciones accionables, en el Instituto Europeo de Diseño en Roma. Él dijo que a menudo ve dos respuestas extremas, si opuestas, a herramientas como ChatGPT, con muchos estudiantes queriendo depender exclusivamente de ellas y muchos profesores pensando que la IA es inherentemente incorrecta. En cambio, intenta enseñar a los usuarios a discernir entre hechos y fabricaciones y cómo interactuar con las herramientas de manera productiva. El libro es una extensión de este esfuerzo, argumentó el Sr. Colamedici. Las herramientas de IA que utilizó le ayudaron a refinar las ideas, mientras que pistas (reales e inventadas) sobre el autor falso (en línea y en el libro), sugirieron intencionalmente problemas potenciales para motivar a los lectores a hacer preguntas, dijo. El primer capítulo habla sobre la autoría falsa, por ejemplo, y el libro contiene referencias oscuras a la cultura italiana poco probables de venir de un joven filósofo de Hong Kong, lo que eventualmente ayudó a un crítico a descubrir al verdadero autor operando como traductor. Sabina Minardi, editora en el medio italiano L’Espresso, notó las pistas, exponiendo a Jianwei Xun como un fraude a principios de este mes. Luego, el Sr. Colamedici actualizó la página de bio del autor falso y habló con publicaciones, incluyendo algunas engañadas por su trabajo. Nuevas ediciones y extractos impresos este mes vienen con posdatas sobre la verdad. Pero algunos de los que inicialmente abrazaron el libro ahora lo rechazan y cuestionan si el Sr. Colamedici ha actuado éticamente o ha violado una ley de la Unión Europea sobre el uso de IA. El medio de noticias francés Le Figaro escribió sobre “El caso Jianwei Xun”, explicando que el “problema” con su entrevista anterior al filósofo de Hong Kong era que “él no existe”. El periódico español El País se retractó de un informe sobre el libro, reemplazándolo con una nota que decía “el libro no reconoció la participación de la IA en la creación del texto, una violación de la nueva Ley de IA de la Unión Europea”. El Artículo 50 de esa ley dice que si alguien usa un sistema de IA para generar textos con el propósito de “informar al público sobre asuntos de interés público”, entonces debe (con excepciones limitadas) revelarse que se utilizó IA generativa, dijo Noah Feldman, profesor de derecho en la Universidad de Harvard que asesora a empresas tecnológicas. “Esa disposición parece cubrir al creador del libro y tal vez a cualquiera que vuelva a publicar su contenido”, dijo. “La ley no entra en vigencia hasta agosto de 2026, pero es común en la UE que personas e instituciones quieran seguir leyes que parecen moralmente buenas incluso cuando aún no se aplican técnicamente”. Jonathan Zittrain, profesor de derecho y ciencia de la computación en Harvard, dijo que estaba más inclinado a llamar al libro del Sr. Colamedici “una obra de arte, o simplemente marketing, que involucraba el uso de un seudónimo”. El Sr. Colamedici está decepcionado de que algunos campeones iniciales hayan denunciado el experimento. Pero planea seguir usando IA para demostrar los peligros que plantea. “Este es el momento”, dijo. “Estamos arriesgando la cognición. Úsala o piérdela”. Dijo que planea que Jianwei Xun, describiéndolo como un colectivo de humanos e inteligencia artificial, enseñe un curso sobre IA el próximo otoño.
