La inteligencia artificial está transformando todo en los centros de datos: desde nuevas papas fritas específicas de IA, hasta nuevas técnicas de refrigeración y un impulso en el almacenamiento. Ahora, incluso el método para medir el tiempo está comenzando a cambiar, con un anuncio desde el sitio que la compañía ha desarrollado un nuevo cronómetro optimizado para las cargas de trabajo de IA.
La compañía afirma que este avance llevará a un ahorro significativo de energía y costos más bajos para el entrenamiento e inferencia de IA. Sitime logró estos ahorros utilizando sistemas microelectromecánicos (MEMS) como componente central de cronometraje en lugar de los tradicionales cristales de cuarzo.
Casi todas las partes de una computadora tienen algún tipo de cronómetro. Desde la CPU, GPU, tarjetas de red, interruptores e incluso las interconexiones activas contienen su propio componente de cronometraje. Para cargas de trabajo computacionales más tradicionales, estos relojes generalmente se dividen en dos categorías: relojes rápidos y sincronizados adecuadamente en múltiples GPU (o CPU), según Ian Cutress, analista principal de Moore y colaborador de Sitime.
“El problema con la IA es que está haciendo ambas cosas”, dice Cutress. “Quieres que tu chip funcione lo más rápido posible, pero también necesitas sincronizarlo con 100,000 chips”.
El cronómetro Super-TCXO de Sitime combina la funcionalidad de los relojes ultraestables y sincronizados adecuadamente en un solo dispositivo, proporcionando una sincronización que es 3 veces mejor que una comparable basada en cuarzo. Con una capacidad de 800 gigabits por segundo en un chip, esto representa un cuarto del tamaño.
Un mejor tiempo conduce a ahorros de energía
La inteligencia artificial requiere una gran cantidad de datos. Sin embargo, las costosas y potentes GPU permanecen inactivas el 57% del tiempo, esperando el próximo conjunto de datos. Si los datos se pudieran servir más rápidamente, las GPU podrían operar en cantidades más pequeñas y de manera más eficiente.
“Necesitas un ancho de banda más rápido. Y, para lograrlo, necesitas un mejor cronometraje”, dice Piyush Sevalia, Vicepresidente Ejecutivo de Marketing en Sitime.
Además, se puede ahorrar mucha energía si las GPU se pueden poner en modo de suspensión mientras esperan nuevos datos, según Cutress. Esto también requiere un cronometraje más preciso para que el ciclo de sueño-vigilia pueda ocurrir lo suficientemente rápido como para mantenerse al día con el flujo de datos.
En el caso de la IA, los relojes no solo necesitan ser más precisos, sino que también deben estar perfectamente sincronizados en múltiples GPU. Los modelos de IA dividen sus tareas entre varias GPU, y cada una realiza una pequeña parte del cálculo. Si una GPU se retrasa, todo el cálculo debe esperar a ese nodo. En otras palabras, el cálculo avanza tan rápido como el enlace más débil. Todas las GPU permanecen activas mientras esperan, por lo que cualquier retraso resulta en pérdidas de energía.
Un tiempo superior gracias a los MEMS
El tiempo debe ser preciso, perfectamente sincronizado y resistente, y cualquier vibración mecánica o cambio de temperatura debe ser compensado para garantizar que no afecte el cálculo. El Super-TCXO de Sitime tiene como objetivo combinar los tres requisitos en un solo dispositivo.
Sevalia menciona que utilizar osciladores MEMS en lugar del cuarzo tradicional hace posible esta combinación. Los osciladores de cuarzo utilizan vibraciones de cristales de cuarzo mecanizados con precisión, mientras que los osciladores MEMS se fabrican para resonar a una frecuencia específica. Los dispositivos MEMS pueden ser más pequeños, menos sensibles a las tensiones mecánicas e incluso más precisos.
“Los osciladores de cristal han existido desde el principio de los tiempos, desde que la computación era una cosa”, dice Dave Altavilla, presidente y analista principal de Hottech Vision & Analysis, quien también colabora con Sitime. “Hemos mejorado dramáticamente esta tecnología desde su inicio. Pero los MEMS van un paso más allá de lo que un cristal es capaz de hacer. Creo que esta nueva tecnología está desplazando en el mercado la antigua forma de hacer las cosas”.
Las soluciones basadas en MEMS de Sitime ya han tenido cierto éxito: el Spectrum-X Switch Silicon de Nvidia ya contiene un dispositivo de Sitime.
Sevalia espera que la demanda de dispositivos de tiempo basados en MEMS continúe. La compañía ya está planeando dispositivos aún más avanzados, y esperan que sus innovaciones resulten en más ahorros de energía. “Estamos apenas empezando a descubrir cuánta eficiencia energética podemos lograr”, dice Sevalia.
De los artículos de su sitio
Artículos relacionados en la web