Meta, OpenAI, Stability AI ofrecen las GPU NVIDIA H100 para cubrir la creciente demanda de capacitación e inferencia de IA generativa en el cloud.
Desde su lanzamiento el pasado otoño, la GPU NVIDIA H100 Tensor Core se considera la GPU más poderosa del mundo para Inteligencia Artificial, por lo que tanto NVIDIA como sus socios desarrollan nuevos productos y servicios alrededor de ella para abordar toda la demanda de capacitación e inferencia de IA generativa.
Durante el discurso inaugural del GTC NVIDIA, el fundador y CEO Jensen Huang anunció que las supercomputadoras NVIDIA DGX H100 empezaban a estar en producción para que en breve lleguen a empresas de todo el mundo. “El increíble potencial de la IA generativa está inspirando a prácticamente todas las industrias a reinventar sus estrategias comerciales y la tecnología necesaria para lograrlas”, dijo Huang. “NVIDIA y nuestros socios se están moviendo rápidamente para proporcionar la plataforma informática de IA más poderosa del mundo a aquellos que crean aplicaciones que transformarán fundamentalmente la forma en que vivimos, trabajamos y jugamos”.
La arquitectura Hopper acelera la IA
La GPU H100 basada en la arquitectura informática NVIDIA Hopper está optimizado para desarrollar, entrenar e implementar IA generativa, modelos de lenguaje extenso (LLM) y sistemas de recomendación. Esta tecnología utiliza la precisión FP8 de la H100 y ofrece un entrenamiento de IA 9 veces más rápido y una inferencia de IA hasta 30 veces más rápida en LLM en comparación con la A100 de la generación anterior.
Los sistemas NVIDIA DGX H100 cuentan con hasta 8 GPUs H100 conectadas con interconexiones de alta velocidad NVIDIA NVLink y redes NVIDIA Quantum InfiniBand y Spectrum Ethernet integradas. La plataforma proporciona 32 petaflops de rendimiento informático con precisión FP8, con redes 2 veces más rápidas que la generación anterior, lo que ayuda a maximizar la eficiencia energética en el procesamiento de grandes cargas de trabajo de IA.
Este sistema también cuenta con el software NVIDIA AI, lo que permite a las empresas ejecutar y administrar sin problemas sus cargas de trabajo de IA a escala.
Pioneros de IA adoptan H100
Varios pioneros en IA generativa están adoptando H100 para acelerar su trabajo, algunos ejemplos son:
- OpenAI usó el predecesor de H100, las GPU NVIDIA A100, para entrenar y ejecutar ChatGPT, un sistema de inteligencia artificial optimizado para el diálogo, que ha sido utilizado por cientos de millones de personas en todo el mundo en un tiempo récord. OpenAI usará H100 en su supercomputadora Azure para impulsar su investigación continua de IA.
- Meta, socio tecnológico clave de NVIDIA, desarrolló su sistema Grand Teton de supercomputadora de inteligencia artificial basada en Hopper con múltiples mejoras de rendimiento en comparación con su predecesor, Zion, que incluyen 4 veces el ancho de banda de host a GPU, 2 veces el ancho de banda de la red informática y de datos, y 2 veces el ancho de banda. envolvente de potencia. Con esta mayor capacidad de cómputo, Grand Teton puede admitir la inferencia de capacitación y producción de modelos recomendadores de aprendizaje profundo y la comprensión del contenido.
- Stability AI, pionera en IA generativa de texto a imagen, es un cliente de acceso anticipado H100 en AWS. Stability AI planea usar H100 para acelerar sus próximos modelos de video, 3D y multimodales.
- Twelve Labs, una plataforma que brinda a las empresas y desarrolladores acceso a la comprensión de video multimodal, planea usar instancias H100 en un Supercluster OCI para hacer que el video se pueda buscar de manera instantánea, inteligente y fácil.
- Anlatan, el creador de la aplicación NovelAI para la escritura de historias asistida por IA y la síntesis de texto a imagen, está utilizando instancias H100 en la plataforma en la nube de CoreWeave para la creación e inferencia de modelos.
En Flytech contamos con los servidores y sistemas con GPU NVIDIA H100, pide más información a través del siguiente enlace.
