Supermicro lanza los primeros servidores NVIDIA HGX H100 8 y H100 de 4 GPU con refrigeración líquida

“Supermicro continúa liderando la industria que respalda las exigentes necesidades de las cargas de trabajo de IA y los centros de datos modernos en todo el mundo“, dijo Charles Liang, presidente y director ejecutivo de Supermicro. “Nuestros innovadores servidores GPU que utilizan nuestra tecnología de refrigeración líquida reducen significativamente los requisitos de energía de los centros de datos. Con la cantidad de energía necesaria para habilitar los modelos de IA a gran escala en rápida evolución de la actualidad, optimizar el TCO y el costo total para el medio ambiente (TCE) es crucial para operadores de centros de datos. Tenemos experiencia comprobada en el diseño y la construcción de racks completos de servidores de alto rendimiento. Estos sistemas de GPU están diseñados desde cero para la integración a escala de rack con refrigeración líquida para proporcionar un rendimiento superior, eficiencia y facilidad de implementación, lo que nos permite para cumplir con los requisitos de nuestros clientes con un tiempo de entrega corto“.

Servidores Supermicro GPU NVIDIA con CPU Intel y CPU AMD

Los racks optimizados para IA con las últimas familias de productos Supermicro, incluidas las líneas de productos de servidores Intel y AMD, se pueden entregar rápidamente a partir de plantillas de ingeniería estándar o se pueden personalizar fácilmente según los requisitos únicos del usuario. Supermicro continúa ofreciendo la línea de productos más amplia de la industria con los servidores y sistemas de almacenamiento de más alto rendimiento para abordar proyectos complejos de uso intensivo de cómputo. Las soluciones integradas a escala de rack brindan a los clientes la confianza y la capacidad de enchufar los racks, conectarse a la red y volverse más productivos antes que administrar la tecnología ellos mismos.

El servidor de GPU refrigerado por líquido de primera línea contiene CPU duales Intel o AMD y ocho o cuatro GPU NVIDIA HGX H100 Tensor Core interconectadas. El uso de refrigeración líquida reduce el consumo de energía de los centros de datos hasta en un 40 %, lo que se traduce en menores costos operativos. Además, ambos sistemas superan significativamente a la generación anterior de sistemas equipados con GPU NVIDIA HGX, proporcionando hasta 30 veces más rendimiento y eficiencia en los grandes modelos de transformadores actuales con una velocidad de interconexión GPU-GPU más rápida y redes y almacenamiento basados ​​en PCIe 5.0.

Los ocho servidores NVIDIA H100 SXM5 Tensor Core GPU de última generación de Supermicro para los modelos de IA de mayor escala de la actualidad incluyen:

• SYS-821GE-TNHR – (CPU escalables duales Intel Xeon de cuarta generación, GPU NVIDIA HGX H100 8, 8U)
• AS -8125GS-TNHR – (CPU AMD EPYC duales de 4.ª generación, NVIDIA HGX H100 8 GPU, 8U)

Supermicro también diseña una gama de servidores GPU personalizables para entrenamiento rápido de IA, inferencia de IA de gran volumen o cargas de trabajo de HPC fusionadas con IA, incluidos los sistemas con cuatro GPU NVIDIA H100 SXM5 Tensor Core.

• SYS-421GU-TNXR – (CPU escalables Intel Xeon duales de cuarta generación, NVIDIA HGX H100 4 GPU, 4U)
• SYS-521GU-TNXR – (CPU escalables duales Intel Xeon de cuarta generación, NVIDIA HGX H100 4 GPU, 5U)

La solución a nivel de rack con refrigeración líquida de Supermicro incluye una unidad de distribución de refrigerante (CDU) que proporciona hasta 80 kW de refrigeración directa al chip (D2C) para las CPU y GPU con el TDP más alto de la actualidad para una amplia gama de servidores Supermicro. La fuente de alimentación redundante e intercambiable en caliente y las bombas de refrigeración líquida garantizan que los servidores se refrigerarán continuamente, incluso con una fuente de alimentación o una falla en la bomba. Los conectores a prueba de fugas brindan a los clientes la confianza adicional de refrigeración líquida ininterrumpida para todos los sistemas.

El diseño y la integración a escala de rack se han convertido en un servicio fundamental para los proveedores de sistemas. Como AI y HPC se han convertido en una tecnología cada vez más crítica dentro de las organizaciones, las configuraciones desde el nivel del servidor hasta todo el centro de datos deben optimizarse y configurarse para obtener el máximo rendimiento. Los expertos en sistemas y básculas de rack de Supermicro trabajan en estrecha colaboración con los clientes para explorar los requisitos y tienen el conocimiento y las capacidades de fabricación para entregar una cantidad significativa de racks a clientes de todo el mundo.