“Se trata del principio de defender lo que es correcto,” dijo Dario Amodei, CEO de la empresa de inteligencia artificial Anthropic, quien se encuentra en el centro de una nueva clase de polémica. Lo que está mal, en su opinión, es por qué la compañía de IA que co-fundó ha sido vetada del gobierno federal.
“Me parece muy punitivo e inapropiado, considerando todo lo que hemos hecho por la seguridad nacional de EE.UU.,” declaró.
Anthropic creó Claude, un chatbot de IA que tal vez uses en el trabajo o la escuela. Desde el verano pasado, su versión gubernamental ha estado profundamente integrada en la inteligencia militar y operaciones clasificadas del Pentágono. La semana pasada, previo al ataque contra Irán, el Departamento de Defensa exigió que Anthropic entregara su IA sin restricciones para uso militar legal. La compañía se negó.
“Tenemos estas dos líneas rojas,” explicó Amodei. “Las hemos tenido desde el primer día. Seguimos defendiendo esas líneas rojas. No vamos a ceder en ellas.”
¿Esas líneas rojas? No permitir que su IA realice vigilancia masiva de estadounidenses y prohibir que su IA controle armas totalmente autónomas sin intervención humana.
Dario Amodei, CEO de Anthropic.
CBS News
Amodei afirmó: “No muestra el criterio que mostraría un soldado humano: fuego amigo, disparar a un civil, o simplemente cometer el tipo de error equivocado. No queremos vender algo que no creemos confiable, y no queremos vender algo que podría causar la muerte de nuestros propios soldados o de personas inocentes.”
Es una cuestión de quién debe controlar la tecnología más avanzada jamás creada: ¿una empresa tecnológica privada o el gobierno federal?
Al preguntarle si cree que Anthropic sabe más que el Pentágono, Amodei respondió: “Algo del libre mercado y la libre empresa es que diferentes personas pueden ofrecer productos distintos bajo principios diferentes. Nuestro modelo tiene una personalidad. Es capaz de ciertas cosas. Puede hacer ciertas tareas de forma confiable. Y no puede hacer otras cosas de manera confiable. Y creo que nosotros somos buenos jueces de lo que nuestros modelos pueden y no pueden hacer con fiabilidad.”
Tras varias semanas de conversaciones, el presidente Trump ordenó el viernes al gobierno de EE.UU. detener todo uso de la IA de Anthropic, cancelando más de 200 millones de dólares en contratos federales. El Secretario de Defensa Pete Hegseth calificó a Anthropic como “un riesgo para la cadena de suministro de la seguridad nacional” – algo inédito para una empresa americana.
Preguntado sobre que el presidente se refiriera a Anthropic como “una empresa izquierdista y *woke*”, Amodei dijo: “No puedo hablar por lo que otras partes hacen… Pero nosotros, creo, hemos intentado ser muy neutrales. Entonces, ¿esta idea de que hemos sido partidistas, o que no hemos sido imparciales? Hemos sido rigurosamente imparciales.”
Las acciones de la administración Trump respecto a Anthropic han sido llamadas por los críticos un abuso de poder. Preguntado si está de acuerdo, Amodei replicó: “De nuevo, volvería a la idea de que esto es sin precedentes.”
¿Pero es un abuso de poder? “Esto nunca había pasado antes,” afirmó. “Esta designación nunca se había dado a una empresa americana. Y creo que quedó muy claro en algunas de sus declaraciones y lenguaje que esto fue retaliatorio y punitivo. No se que otro nombre darle. Retaliatorio y punitivo.”
Mientras Amodei y Anthropic enfrentan un veto gubernamental, su principal rival, Sam Altman de OpenAI (creadores de ChatGPT), cerró su propio acuerdo con el Pentágono el viernes.
Amodei dice que Anthropic planea tomar acciones legales. “Todo lo que hemos visto,” dijo, “son *tweets* del presidente y *tweets* del Secretario Hegseth.” Y afirma que Anthropic sigue en la mesa de negociaciones, con esperanzas de dialogar.
Preguntado qué le diría al presidente Trump, Amodei declaró: “Somos americanos patriotas. Todo lo que hemos hecho ha sido por este país, por apoyar la seguridad nacional de EE.UU. Creemos en derrotar a nuestros adversarios autocráticos. Creemos en defender a América.”
“Las líneas rojas que hemos trazado, las trazamos porque creemos que cruzarlas va en contra de los valores americanos,” añadió. “Discrepar con el gobierno es lo más americano que hay. Y somos patriotas. En todo lo que hemos hecho aquí, hemos defendido los valores de este país.”
Historia producida por David Rothman. Editor: George Pozderec.
IA: Inteligencia Artificial
Profundiza con The Free Press