La refrigeración líquida aumenta el rendimiento y la eficiencia de la plataforma Blackwell de Nvidia

 

El rápido crecimiento de la inteligencia artificial (IA), especialmente en áreas como la IA generativa (GenAI) y los grandes modelos de lenguaje (LLM), ha impulsado una demanda sin precedentes de potencia informática. A medida que los modelos de IA se vuelven más complejos y requieren más datos, el hardware necesario para respaldar estos avances enfrenta desafíos importantes, particularmente con la disipación de calor. Los métodos de refrigeración tradicionales, como la refrigeración por aire, ya no son suficientes para gestionar el consumo de energía del hardware de IA de última generación, y aquí es donde entran en juego las soluciones de refrigeración líquida.

 

La tecnología de refrigeración líquida ha ganado importancia como una forma altamente eficiente de gestionar la producción térmica de los centros de datos de IA. Es especialmente crucial para plataformas como la arquitectura Blackwell de Nvidia, donde la inmensa potencia computacional requiere sistemas de refrigeración avanzados para garantizar el rendimiento y la longevidad.

 

Alhotchip 2024conferencia, Nvidia presentó su solución innovadora, integrandoAgua tibia Refrigeración líquida directa al chiptecnología con su arquitectura Blackwell para abordar los crecientes desafíos de consumo de energía y refrigeración. Este desarrollo significa un avance clave en el diseño de hardware de IA, ya que reduce los costos operativos y mejora la eficiencia en aplicaciones de IA a gran escala.

 

▲ Tutorial de Hot Chips: la refrigeración líquida aumenta el rendimiento y la eficiencia

 

El auge de la tecnología de refrigeración líquida

 

La tecnología de refrigeración líquida se está convirtiendo en un componente crítico en el diseño de centros de datos de IA debido a las crecientes demandas de energía de los chips de IA. A medida que crecen las aplicaciones de IA, se espera que el consumo de energía en los centros de datos aumente drásticamente. Muchos procesadores de IA, incluido el H100 de Nvidia y su nuevoArquitectura de Blackwell, consumen entre 700 W y 1200 W de potencia. Este inmenso consumo de energía se agrava cuando los grupos de IA, que constan de miles de GPU, funcionan al unísono.

 

Por ejemplo,El grupo de entrenamiento de IA de Elon Musk, el más grande del mundo con 100000 GPU H100, está completamente refrigerado por líquido para gestionar su demanda de energía de 31-megavatios. Estos ejemplos demuestran por qué optimizar la tecnología de refrigeración es fundamental, no sólo para reducir los costos operativos sino también para mejorar el rendimiento general de los sistemas de IA. A medida que sigue creciendo la necesidad de una IA de mayor rendimiento, la refrigeración líquida desempeñará un papel cada vez más central en el mantenimiento de los sistemas informáticos de alto rendimiento.

 

 

Los beneficios de la refrigeración líquida en los centros de datos de IA

La refrigeración líquida se destaca por su capacidad de transferir calor directamente lejos de componentes críticos como CPU y GPU, mejorando la disipación de calor en comparación con la refrigeración por aire tradicional. EnRefrigeración líquida directa (DLC), el refrigerante entra en contacto directo con el chip, lo que mejora la eficiencia térmica y reduce la necesidad de ventiladores voluminosos y sistemas de aire acondicionado. Esto da como resultado un menor consumo de energía para refrigeración, lo que reduce los costos operativos totales del centro de datos.

 

Además,Refrigeración líquida por inmersión, donde servidores enteros se sumergen en un líquido dieléctrico, presenta una solución de refrigeración aún más eficaz. Este método no sólo garantiza que todos los componentes se mantengan fríos, sino que también minimiza el desgaste mecánico, lo que prolonga la vida útil del hardware y reduce significativamente el ruido de los equipos que mueven aire.

 

 

Desafíos del consumo de energía en el hardware de IA

 

A medida que los sistemas de IA crecen, su consumo de energía presenta un desafío creciente. Hardware de IA, como elGPU Nvidia H100y elArquitectura de Blackwell, son conocidos por consumir mucha energía, con requisitos de energía que alcanzan hasta 1200W por chip. Un clúster de IA típico que contiene 22000 GPU H100, por ejemplo, puede requerir hasta31 megavatios de electricidad-equivalente al consumo de energía de una ciudad pequeña.

 

Esta demanda masiva de energía no solo aumenta los costos operativos de los centros de datos sino que también contribuye a importantes impactos ambientales. Para abordar estos desafíos, los centros de datos deben centrarse tanto en la reducción del consumo de energía como en mejorar la eficiencia de la refrigeración.

 

 

Arquitectura Blackwell de Nvidia y refrigeración por agua caliente directa al chip

 

AlConferencia Hotchip 2024, Nvidia presentó su solución para integrar refrigeración líquida con su arquitectura Blackwell, utilizandoTecnología de enfriamiento directo al chip con agua tibia. Este enfoque utiliza agua tibia (a diferencia de agua fría) para absorber y transferir calor directamente desde el chip. Al emplear refrigeración por agua caliente, Nvidia puede reducir el consumo de energía de refrigeración de los centros de datos hasta en un 28%.

 

La eficiencia de esta solución es doble: no solo reduce el consumo total de energía para refrigeración, sino que también permite recuperar el calor residual, que puede reutilizarse para otros usos, como calentar edificios cercanos. Además, la refrigeración por agua caliente extiende la vida útil operativa de los servidores al mantener los chips dentro de rangos de temperatura óptimos, evitando el sobrecalentamiento y reduciendo el desgaste.

 

▲Solución de refrigeración de agua caliente directamente al chip

 

Esta técnica de enfriamiento es especialmente importante a medida que las aplicaciones de IA como GenAI y LLM continúan aumentando la potencia computacional requerida en los centros de datos. La capacidad de mantener temperaturas óptimas afecta directamente el rendimiento y la escalabilidad de las cargas de trabajo de IA, lo que garantiza que estos sistemas puedan manejar las demandas intensivas que se les imponen.

 

 

 

Refrigeración líquida por inmersión: un paso más allá

 

Además de la refrigeración líquida directa,Refrigeración líquida por inmersiónTambién está ganando terreno como solución de siguiente nivel para sistemas de IA a gran escala. Este método sumerge servidores completos en un líquido dieléctrico no conductor, que absorbe y disipa completamente el calor de todos los componentes. Al enfriar todo el sistema de esta manera, la refrigeración líquida por inmersión ofrece las siguientes ventajas:

 

• Eficiencia de enfriamiento mejorada: Al rodear todos los componentes con líquido refrigerante, este método proporciona una eliminación de calor uniforme y eficiente.
• Menores costos de mantenimiento: Al no tener partes móviles como ventiladores, hay menor desgaste mecánico, lo que reduce los costos de mantenimiento y extiende la vida útil del equipo.
• Mejora de la eficiencia energética: El enfriamiento por inmersión puede reducir drásticamente el uso de energía, ya que elimina la necesidad de sistemas de aire acondicionado y otros componentes de enfriamiento activo.

 

▲Sistema de refrigeración líquida por inmersión

 

Además,Refrigeración líquida por inmersiónes altamente escalable, lo que lo hace ideal para centros de datos que manejan cargas de trabajo de IA que generan cantidades significativas de calor, como los impulsados ​​por la arquitectura Blackwell de Nvidia. A medida que los modelos de IA más grandes son cada vez más frecuentes, el enfriamiento por inmersión puede convertirse en una solución ideal para los centros de datos que buscan escalar sus operaciones y al mismo tiempo minimizar los costos de energía y el impacto ambiental.

 

 

 

La inversión de Silicon Valley en tecnologías de refrigeración

 

La creciente demanda de soluciones de refrigeración más eficientes en los centros de datos de IA ha llamado la atención de las empresas de capital riesgo, especialmente envalle del silicio. Estas empresas están invirtiendo activamente en nuevas empresas que se especializan enrefrigeración líquidatecnologías, reconociendo que las innovaciones en este campo son esenciales para el futuro del hardware de IA.

 

Startups en desarrollosoluciones de refrigeración avanzadasno sólo proporcionan beneficios inmediatos para los sistemas de IA de la generación actual, sino que también sientan las bases para la próxima ola de hardware de IA, que probablemente exigirá métodos de refrigeración aún más sofisticados. Estas tecnologías deben abordar tanto los requisitos de alta potencia como los desafíos térmicos de los sistemas de IA, lo que las convierte en una inversión atractiva para quienes buscan ampliar los límites de lo que es posible en la informática de alto rendimiento.

 

▲Tendencias de inversión en centros de datos de IA

 

 

Conclusión

 

A medida que el hardware de IA continúa evolucionando, crece la demanda de tecnologías de refrigeración innovadoras. NvidiaArquitectura de Blackwellestá a la vanguardia de este cambio, utilizandoagua tibia Directo al chiprefrigeración para aumentar la eficiencia y reducir los costes operativos.Refrigeración líquida, ya sea a través de métodos de contacto directo o de inmersión, está demostrando ser la forma más eficaz de gestionar el consumo masivo de energía y la producción de calor de los sistemas de IA modernos.

 

Las empresas de capital de riesgo se están dando cuenta y muchas están invirtiendo en nuevas empresas que pueden ofrecer soluciones de refrigeración de próxima generación. A medida que los centros de datos de IA se vuelven más grandes y complejos, la importancia de los sistemas de refrigeración eficientes y escalables no hará más que aumentar, haciendo de la refrigeración líquida una piedra angular de la futura infraestructura informática de alto rendimiento.