Meta y Nvidia lanzan una alianza de varios años para infraestructura de IA a hiperescala
Millones de GPUs de Nvidia y CPUs basados en Arm manejarán cargas de trabajo extremas. Una arquitectura unificada abarca centros de datos y despliegues en la nube con socios de Nvidia.
Meta ha anunciado una colaboración de varios años con Nvidia con el objetivo de construir una infraestructura de IA a hiperescala, capaz de gestionar algunas de las cargas de trabajo más grandes del sector tecnológico.
Esta colaboración desplegará millones de GPUs y CPUs basados en Arm, expandirá la capacidad de la red e integrará técnicas avanzadas de computación que preservan la privacidad en las plataformas de la empresa.
La iniciativa busca combinar las extensas cargas de trabajo de producción de Meta con el ecosistema de hardware y software de Nvidia para optimizar el rendimiento y la eficiencia.
Arquitectura unificada en centros de datos
Las dos compañías están creando una arquitectura de infraestructura unificada que abarca centros de datos locales y despliegues en la nube con socios de Nvidia.
Este enfoque simplifica las operaciones mientras proporciona recursos de computación escalables y de alto rendimiento para el entrenamiento e inferencia de IA.
"Nadie despliega IA a la escala de Meta, integrando investigación de vanguardia con infraestructura a escala industrial para impulsar los sistemas de personalización y recomendación más grandes del mundo, utilizados por miles de millones de personas", dijo Jensen Huang, fundador y CEO de Nvidia.
"A través de un codesign profundo en CPUs, GPUs, redes y software, estamos llevando toda la plataforma de Nvidia a los investigadores e ingenieros de Meta mientras construyen los cimientos para la próxima frontera de la IA".
Los sistemas basados en GB300 de Nvidia formarán la columna vertebral de estos despliegues. Ofrecerán una plataforma que integra computación, memoria y almacenamiento para satisfacer las demandas de los modelos de IA de próxima generación.
Meta también está expandiendo la red Ethernet Nvidia Spectrum-X en toda su infraestructura, con el objetivo de ofrecer un rendimiento predecible y de baja latencia, mejorando al mismo tiempo la eficiencia operativa y energética para cargas de trabajo a gran escala.
Meta ha comenzado a adoptar la Computación Confidencial de Nvidia para soportar capacidades impulsadas por IA dentro de WhatsApp, permitiendo que los modelos de aprendizaje automático procesen datos de los usuarios manteniendo la privacidad e integridad.
La colaboración planea extender este enfoque a otros servicios de Meta, integrando técnicas de IA mejoradas para la privacidad en múltiples aplicaciones.
Los equipos de ingeniería de Meta y Nvidia están trabajando estrechamente para codesignar modelos de IA y optimizar el software en toda la pila de infraestructura.
Al alinear hardware, software y cargas de trabajo, las compañías buscan mejorar el rendimiento por vatio y acelerar el entrenamiento de modelos de última generación.
El despliegue a gran escala de las CPUs Nvidia Grace es una parte central de este esfuerzo, representando esta colaboración el primer despliegue importante solo con Grace a esta escala.
También se están implementando optimizaciones de software en las bibliotecas del ecosistema de CPU para mejorar el rendimiento y la eficiencia energética para las sucesivas generaciones de cargas de trabajo de IA.
"Estamos emocionados de expandir nuestra asociación con Nvidia para construir clústeres de vanguardia usando su plataforma Vera Rubin y así ofrecer superinteligencia personal a todos en el mundo", dijo Mark Zuckerberg, fundador y CEO de Meta.
—
Sigue a TechRadar en Google News y añádenos como fuente preferida para recibir nuestras noticias, análisis y opinión de expertos en tu feed. ¡Asegúrate de hacer clic en el botón Seguir!
Y, por supuesto, también puedes seguir a TechRadar en TikTok para noticias, reseñas y unboxings en formato de video, y obtener actualizaciones nuestras en WhatsApp también.