META apuesta por las NVIDIA Hopper en su nueva plataforma

Por 28 de octubre de 2022 Noticias

En el evento global de Open Compute Project (OCP) celebrado en octubre, Meta anunció su nueva plataforma de inteligencia artificial de próxima generación, Grand Teton, creada en colaboración con NVIDIA.

Grand Teton, la nueva plataforma para IA de Meta

En comparación con la plataforma Zion EX de la generación anterior de la compañía, el sistema Grand Teton incluye más memoria, ancho de banda de red y capacidad de cómputo, según Alexis Björlin, vicepresidenta de Meta Infrastructure Hardware.

Los modelos de IA se utilizan ampliamente en Facebook para servicios como suministro de noticias, recomendaciones de contenido e identificación de expresiones de odio, entre muchas otras aplicaciones.

Estamos emocionados de presentar a este nuevo miembro de la familia aquí en la cumbre”, dijo Björlin en declaraciones preparadas para la conferencia, y agregó su agradecimiento a NVIDIA por su profunda colaboración en el diseño de Grand Teton y el apoyo continuo a OCP.

Diseñado para la escala del centro de datos

Llamado así por la montaña de 13,000 pies que corona uno de los dos parques nacionales de Wyoming, Grand Teton utiliza GPU NVIDIA H100 Tensor Core para entrenar y ejecutar modelos de IA que están creciendo rápidamente en tamaño y capacidades, lo que requiere una mayor computación.

La arquitectura NVIDIA Hopper, en la que se basa el H100, incluye un motor de transformador para acelerar el trabajo en estas redes neuronales, que a menudo se denominan modelos básicos porque pueden abordar un conjunto de aplicaciones en expansión, desde el procesamiento del lenguaje natural hasta la atención médica, la robótica y más.

El NVIDIA H100 está diseñado para el rendimiento y la eficiencia energética. Los servidores acelerados por H100, cuando se conectan con redes NVIDIA a través de miles de servidores en centros de datos de hiperescala, pueden ser 300 veces más eficientes energéticamente que los servidores solo de CPU.

“Las GPU NVIDIA Hopper están diseñadas para resolver los difíciles desafíos del mundo, brindando computación acelerada con mayor eficiencia energética y rendimiento mejorado, al tiempo que agrega escala y reduce los costos”, dijo Ian Buck, vicepresidente de computación de hiperescala y alto rendimiento en NVIDIA. “Con Meta compartiendo la plataforma Grand Teton con tecnología H100, los creadores de sistemas de todo el mundo pronto tendrán acceso a un diseño abierto para la infraestructura de cómputo del centro de datos a hiperescala para potenciar la IA en todas las industrias”.

Una montaña de máquina

Grand Teton tiene 2 veces el ancho de banda de la red y 4 veces el ancho de banda entre los procesadores host y los aceleradores de GPU en comparación con el sistema Zion anterior de Meta, dijo Meta.

El ancho de banda de red agregado permite a Meta crear grupos más grandes de sistemas para entrenar modelos de IA, dijo Björlin. También incluye más memoria que Zion para almacenar y ejecutar modelos de IA más grandes.

Implementación simplificada, mayor confiabilidad

Reunir todas estas capacidades en un servidor integrado “simplifica drásticamente la implementación de sistemas, lo que nos permite instalar y aprovisionar nuestra flota mucho más rápidamente y aumentar la confiabilidad”, dijo Björlin.

En Flytech seguimos a la vanguardia tecnológica y ofrecemos las últimas GPUs de NVIDIA con servidores Supermicro optimizados para una mayor experiencia.

Solicitar más información

Deja un comentario