El auge de las soluciones de refrigeración líquida en servidores de IA: un análisis de TrendForce
Oct 03, 2024
Dejar un mensaje
Ⅰ Introducción
Según la última encuesta de TrendForce, se espera que la tasa de penetración de las soluciones de refrigeración líquida aumente, impulsada por el envío previsto de la plataforma NVIDIA Blackwell en el cuarto trimestre de 2024. Se prevé que esta tasa aumente de alrededor del 10% en 2024 a más del 20% en 2025. La creciente conciencia global sobre los factores ambientales, sociales y de gobernanza (ESG), junto con la construcción acelerada de servidores de IA por parte de los proveedores de servicios en la nube (CSP), está allanando el camino para un cambio significativo desde la refrigeración por aire tradicional. hasta soluciones avanzadas de refrigeración líquida.
La refrigeración líquida ofrece varias ventajas sobre la refrigeración por aire, incluida una gestión térmica mejorada, niveles de ruido reducidos y una mayor eficiencia energética. A medida que aumenta la demanda de capacidades de IA, particularmente en aplicaciones con uso intensivo de datos, la transición a sistemas de refrigeración líquida se vuelve cada vez más crítica para mantener un rendimiento óptimo del servidor.
▲ Sistema de refrigeración líquida utilizado en entornos de servidores de IA
Ⅱ El dominio de NVIDIA en el mercado de servidores de IA
En el mercado global de servidores de IA, NVIDIA continúa reinando, con una participación de mercado cercana al 90% en el segmento de servidores de IA con GPU a partir de 2024. AMD está muy por detrás con aproximadamente un 8% de participación de mercado. Este dominio se debe en gran medida a la tecnología de vanguardia de NVIDIA y su sólido ecosistema, que admite una amplia gama de aplicaciones en inteligencia artificial, aprendizaje automático y análisis de datos.
TrendForce señala que la escala de envíos de NVIDIA Blackwell este año es relativamente pequeña. Esto se debe principalmente a que la plataforma se encuentra en procesos finales de prueba y validación dentro de la cadena de suministro, que requieren una optimización continua en áreas como la transmisión de datos de alta velocidad y el diseño de refrigeración. El mayor consumo de energía de la plataforma Blackwell, particularmente en la solución de rack GB200, requiere una eficiencia de enfriamiento superior, lo que acelera aún más la adopción de soluciones de enfriamiento líquido.
▲ Plataforma NVIDIA Blackwell para servidores de IA
A pesar de las ventajas de la refrigeración líquida, el ecosistema de servidores actual todavía muestra una baja tasa de adopción de esta tecnología. Los fabricantes de diseños originales (ODM) deben recorrer una curva de aprendizaje para abordar los desafíos relacionados con las fugas y la eficiencia de la refrigeración. Dado que se espera que la proporción de GPU de alta gama en la plataforma Blackwell supere el 80 % para 2025, esto provocará la competencia entre los fabricantes de fuentes de alimentación y la industria de la refrigeración en el mercado emergente de refrigeración líquida de IA, lo que generará un nuevo panorama competitivo.
Ⅲ Implementación acelerada por parte de grandes CSP
Los principales proveedores de servicios en la nube, incluidos Google, AWS y Microsoft, han acelerado rápidamente sus implementaciones de servidores de IA en los últimos años, utilizando predominantemente GPU NVIDIA y ASIC de desarrollo propio. La potencia de diseño térmico (TDP) del gabinete GB200 NVL72 de NVIDIA es de aproximadamente 140 kW, lo que subraya la necesidad urgente de soluciones de refrigeración líquida para gestionar eficazmente la disipación de calor. Se prevé que los métodos de refrigeración líquido-aire (L2A) se conviertan en el enfoque principal en este contexto.
▲ Implementación de servidores de IA en centros de datos
Si bien dominan las GPU de NVIDIA, Google también ha sido proactivo en la exploración de soluciones de refrigeración líquida para sus Unidades de Procesamiento Tensor (TPU). El compromiso de Google con esta tecnología la posiciona como la empresa estadounidense con mayor visión de futuro en la adopción de refrigeración líquida. BOYD y Cooler Master son los principales proveedores de placas frías de Google, que son fundamentales para mantener temperaturas óptimas en entornos informáticos de alto rendimiento.
En China continental, Alibaba está expandiendo agresivamente sus centros de datos de refrigeración líquida, enfatizando aún más el cambio global hacia esta tecnología de refrigeración avanzada. Otros proveedores de servicios en la nube siguen dependiendo principalmente de soluciones de refrigeración por aire para sus ASIC de IA de desarrollo propio, lo que puede dificultar el rendimiento en comparación con los sistemas refrigerados por líquido.
Ⅳ Proveedores clave y designación de componentes
A medida que el cambio hacia la refrigeración líquida gana impulso, los proveedores de servicios en la nube están designando proveedores de componentes clave para las soluciones de refrigeración líquida del gabinete GB200. Actualmente, Qihong y Cooler Master son proveedores líderes de placas frías, mientras que los componentes múltiples provienen de Cooler Master y Shuanghong. Las unidades de distribución de refrigerante (CDU) son proporcionadas por líderes de la industria como Vertiv y Delta.
Para componentes cruciales de prevención de fugas, como las desconexiones rápidas (QD), fabricantes como CPC, Parker Hannifin, Danfoss y Staubli participan activamente en la adquisición. A medida que proveedores adicionales como Jiazhe y Fushida entren en la etapa de validación, tendrán oportunidades de suministrar componentes de desconexión rápida en la primera mitad de 2025, lo que ayudará a mitigar el desequilibrio actual entre la oferta y la demanda.
▲ Proveedores clave de componentes de refrigeración líquida
Ⅴ Las ventajas de la refrigeración líquida
Eficiencia de enfriamiento mejorada
Los sistemas de refrigeración líquida están diseñados para eliminar el calor de forma más eficiente que los sistemas de refrigeración por aire. Esto es particularmente importante en aplicaciones de IA donde los procesadores pueden generar un calor significativo debido a las altas demandas computacionales. Al utilizar líquido para absorber y transferir el calor de los componentes, los servidores pueden funcionar a temperaturas más bajas, lo que reduce el riesgo de estrangulamiento térmico y mejora el rendimiento.
Optimización del espacio
Los sistemas de refrigeración líquida suelen ocupar menos espacio que las soluciones tradicionales de refrigeración por aire, lo que permite un diseño de centro de datos más eficiente. Este atributo de ahorro de espacio es particularmente beneficioso para las organizaciones que buscan maximizar la capacidad de su servidor sin ampliar su espacio físico.
Eficiencia Energética
Con un enfoque cada vez mayor en la sostenibilidad y la eficiencia energética, las soluciones de refrigeración líquida pueden ayudar a reducir el consumo energético general de los centros de datos. Al minimizar la dependencia de ventiladores y unidades de aire acondicionado, la refrigeración líquida puede reducir los costos de energía y la huella de carbono, alineándose con los objetivos ESG que muchas empresas se esfuerzan por lograr.
Reducción de ruido
Los sistemas de refrigeración líquida funcionan de forma más silenciosa que los sistemas tradicionales refrigerados por aire, lo que genera un entorno de trabajo más agradable en los centros de datos. Esta reducción de ruido es una consideración importante para instalaciones ubicadas cerca de áreas pobladas o dentro de edificios de oficinas.
Ⅵ Abordar los desafíos comunes
A pesar de los beneficios, la transición a la refrigeración líquida conlleva desafíos. Estos incluyen:
Costos iniciales
La inversión inicial en sistemas de refrigeración líquida puede ser mayor que la de las soluciones tradicionales de refrigeración por aire. Las organizaciones deben sopesar estos costos con los beneficios y ahorros a largo plazo en eficiencia energética y mantenimiento.
Preocupaciones por fugas
Uno de los desafíos más importantes asociados con la refrigeración líquida es el riesgo de fugas. Los protocolos de diseño, selección de materiales y mantenimiento adecuados son esenciales para mitigar este riesgo y garantizar la confiabilidad del sistema.
Complejidad del mantenimiento
Los sistemas de refrigeración líquida requieren un mantenimiento más complejo en comparación con los sistemas enfriados por aire. Las organizaciones deben capacitar a su personal o contratar proveedores de servicios especializados para garantizar que las soluciones de refrigeración líquida sigan siendo efectivas y libres de problemas.
Ⅶ Tendencias futuras en refrigeración líquida
A medida que la demanda de informática con IA sigue aumentando, se espera que varias tendencias futuras den forma al panorama de la refrigeración líquida:
Adopción de soluciones híbridas
Es probable que ganen terreno los sistemas de refrigeración híbridos que combinan tecnologías de refrigeración por aire y líquida. Estos sistemas pueden proporcionar flexibilidad y eficiencia, adaptándose a diferentes cargas de trabajo y necesidades operativas.
Materiales avanzados
El desarrollo de materiales avanzados para componentes de refrigeración líquida puede mejorar el rendimiento y la confiabilidad. Las innovaciones en la ciencia de los materiales pueden conducir a soluciones de refrigeración más ligeras, duraderas y eficaces.
Integración con IA e IoT
La integración de tecnologías de IA e IoT en los sistemas de refrigeración puede optimizar el rendimiento al permitir el monitoreo en tiempo real y ajustes automatizados basados en las condiciones ambientales y las cargas de trabajo del servidor.
Enfoque de sostenibilidad
A medida que las empresas prioricen cada vez más la sostenibilidad, las soluciones de refrigeración líquida que utilizan refrigerantes y materiales ecológicos serán más frecuentes. La industria puede ver un cambio hacia sistemas de circuito cerrado para minimizar los residuos y el impacto ambiental.
▲ Tendencias futuras en tecnología de refrigeración líquida
Ⅷ Conclusión
La transición de soluciones de refrigeración por aire a refrigeración líquida en servidores de IA representa una evolución significativa en la industria, impulsada por los avances en la tecnología y la creciente demanda de una gestión térmica eficiente. Con NVIDIA liderando el mercado de servidores de IA y grandes proveedores de servicios en la nube como Google explorando activamente opciones de refrigeración líquida, el panorama está cambiando rápidamente.
Al comprender los beneficios y desafíos de la refrigeración líquida, así como los actores clave involucrados en su implementación, las organizaciones pueden posicionarse mejor para aprovechar esta tecnología para mejorar el rendimiento, la sostenibilidad y la competitividad en el panorama de la IA. A medida que la industria avanza, las soluciones de refrigeración líquida desempeñarán un papel crucial en la configuración del futuro de los centros de datos, garantizando que puedan satisfacer las demandas de las aplicaciones de IA de próxima generación.