Superando obstáculos de potencia, calor y escala

Innovaciones que dan forma a la expansión del centro de datos

Se prevé que la inteligencia artificial (IA) domine las prioridades de TI durante la segunda mitad de la década, creando $15,7 billones en oportunidades económicas para 2030La creciente demanda de capacidades informáticas basadas en IA obliga a las empresas a replantear la infraestructura de sus centros de datos, ya que se enfrentan a la complejidad operativa, los avances técnicos y los plazos de construcción ajustados. Como resultado, en todo el mundo... Se proyecta que el gasto de capital del centro de datos supere los 1.000 millones de T/T para 2029.Se invertirán miles de millones más como gasto gubernamental incremental, como el proyecto Stargate de $500 mil millones respaldado por EE. UU.

Superar los obstáculos de energía, calor y escala con innovaciones de Flex que dan forma a la expansión del centro de datos

La infraestructura necesaria para satisfacer las crecientes necesidades de computación de la IA también motiva a las empresas a abordar la energía, la calefacción y la escalabilidad de forma innovadora. Los proveedores de servicios en la nube (CSP) lideran el desarrollo de modelos de lenguaje grande (LLM) de IA generativa y exploran alternativas a las fuentes de energía tradicionales de los centros de datos, las configuraciones de racks y salas, y las tecnologías de refrigeración. También están perfeccionando su enfoque de fabricación global, gestión de la cadena de suministro e inventario, y servicios de ciclo de vida de los centros de datos para reducir las limitaciones de su expansión. Las soluciones integradas son de especial interés, al igual que la colaboración con socios que les ayuda a gestionar la complejidad tecnológica, operativa y regulatoria.

Flex, con sus exclusivas capacidades de red a chip, su experiencia global en fabricación, su consolidada red de proveedores y sus servicios integrales, está preparada para ayudar a diseñar, construir y dar servicio a infraestructuras de centros de datos en todo el mundo para satisfacer las demandas de la era de la IA. Su enfoque en la innovación y su visión integral de las necesidades de los centros de datos posicionan a Flex para ofrecer soluciones excepcionales de energía y refrigeración que ayudan a los operadores de centros de datos a superar los desafíos inherentes a los entornos informáticos de alta densidad y rápido crecimiento actuales.

Nuestro portafolio de servicios y productos de energía cubre más del 80% del centro de datos

Portafolio de servicios y productos de energía de Flex que cubre más de 80% del centro de datos

Las cargas de trabajo de IA impulsan la innovación en los centros de datos

OpenAI sorprendió al mundo con la presentación de ChatGPT en 2022. Desde entonces, los modelos de IA generativa han avanzado rápidamente, al igual que su integración en aplicaciones comunes como copilotos y asistentes de chat. Los investigadores ahora están avanzando con la IA agéntica, que puede tomar decisiones, resolver problemas y trabajar con supervisión humana limitada, mucho más allá de las capacidades de "aprender e imitar" de la IA generativa. También están explorando casos de uso para agentes ambientales que actúan sin indicaciones explícitas. Con la rápida evolución de la tecnología de IA y la adopción en todas las industrias siguiendo su ejemplo, los hiperescaladores están invirtiendo en centros de datos preparados para IA a una velocidad vertiginosa para impulsar el entrenamiento y el refinamiento de modelos, ambos requisitos que requieren enormes capacidades de computación. Para 2030, casi El 65 por ciento de las cargas de trabajo de IA en EE. UU. y Europa serán alojadas por hiperescaladores, con alojamiento privado por parte de empresas de tecnología y empresas más pequeñas responsables del resto.

Aumento de 19%–27% En la demanda mundial de capacidad de centros de datos de 2023 a 2030, impulsado principalmente por la sed de cargas de trabajo de IA avanzadas.

— McKinsey & Company

El paralelismo computacional basado en el procesamiento vectorial, requerido por las cargas de trabajo de IA de alto rendimiento, se apoya en plataformas aceleradas que utilizan principalmente unidades de procesamiento gráfico (GPU) para realizar cálculos complejos simultáneamente, lo que agiliza el entrenamiento y la inferencia de modelos. Esto está redefiniendo todos los aspectos de la computación, desde la tecnología de memoria hasta las jerarquías de almacenamiento de datos y las topologías de red de los centros de datos. Los dispositivos de memoria de alto ancho de banda (HBM) admiten el acceso a datos de baja latencia, un requisito clave para el entrenamiento de clústeres de IA. Se están implementando innovadoras unidades de estado sólido (SSD) en lugar de los discos duros tradicionales (HDD) para satisfacer la demanda de capacidad de los hiperescaladores, incluyendo el primer SSD de más de 100 TB del mundo. Los enlaces de red ultra Ethernet y ultraaceleradores basados en estándares están ganando terreno para mitigar el riesgo en la cadena de suministro. Las redes ópticas podrían consolidarse pronto, ya que los hiperescaladores buscan acelerar la transferencia de datos de nodo a nodo dentro de grandes clústeres computacionales.

En conjunto, los avances tecnológicos requeridos por la era de la IA están impulsando cambios significativos en la tecnología operativa, especialmente en Infraestructura de energía y refrigeración del centro de datos.

FUERZA

La adquisición de energía es fundamental para el crecimiento del centro de datos

El desarrollo de plataformas informáticas aceleradas que consumen mucha energía está colocando intensa demanda de consumo energético del centro de datos, que podría alcanzar 1.070 TWh a nivel mundial a finales de la década, más del triple de las necesidades de 2020.

Los hiperescaladores están invirtiendo en la construcción de nuevos centros de datos para aumentar su capacidad, pero poner en línea centros de datos diseñados para computación acelerada puede llevar años. Mientras tanto, los centros de datos existentes están sometidos a una enorme presión en cuanto a la infraestructura de energía crítica y en rack. Por ejemplo, la densidad de computación está impulsando los requisitos de energía de los racks a niveles históricos de 100 kW y más.

Producto de potencia crítica Anord Mardix

Nos hemos preparado para escalar la computación y desarrollar software a un nivel jamás imaginado. Durante los próximos 10 años, esperamos duplicar o triplicar el rendimiento cada año a escala; no a nivel de chip, sino a escala… Estaremos en una especie de curva hiper-Ley de Moore.

— Jensen Huang, director ejecutivo de NVIDIA

Los operadores de centros de datos necesitan acceso a más fuentes de energía y, una vez aseguradas, la capacidad de distribuir la energía eficazmente desde la red, a través de las instalaciones y el rack, y finalmente al chip. Las fuentes renovables, como La generación de energía nuclear está ganando interés, y se están utilizando actualizaciones de la infraestructura energética, migración al suministro de energía de CC y otras técnicas para mejorar la eficiencia desde la red hasta el chip.

De la red al rack

Los desafíos comienzan a nivel de las instalaciones, comenzando con el suministro de energía desde la red eléctrica. Los contratos de compra de energía a largo plazo se utilizan para asegurar el acceso a fuentes renovables y así suministrar energía adicional a las instalaciones existentes o establecer un suministro confiable para nuevos centros de datos. Sin embargo, esto no significa que la infraestructura energética crítica esté lista para aprovecharla.

Las soluciones avanzadas de red a rack impulsan la próxima generación de innovación en IA

Los operadores de centros de datos están renovando el suministro de energía a los racks para soportar cargas de trabajo de IA como las que requerirá la computadora de exaescala NVIDIA GB200 NVL72. Al actuar como una única GPU masiva y requerir aproximadamente 120 kW de energía por rack, su Un despliegue comercial generalizado está en el horizonteLos operadores de centros de datos también se están asociando con expertos en energía crítica para entregar unidades de distribución de energía (PDU) de última generación que puedan soportar 500 kW (con planes de alcanzar 1 GW) para cumplir con los requisitos previstos.

Soluciones modulares de módulos de potencia

Personalizado, soluciones modulares de módulos de potencia Desde Flex comprenden todos los equipos de energía críticos necesarios para conectar las instalaciones a la red, lo que permite la implementación rápida y rentable de capacidad de energía en centros de datos nuevos y existentes.

Soluciones de alimentación en rack

Una vez que la distribución de energía de la instalación esté en su lugar, los operadores deben centrarse en los requisitos en el rack. Flex ha diseñado estantes de energía personalizados para suministrar hasta 125 kW para los crecientes requisitos de IA, impulsando la innovación tecnológica para respaldar las cambiantes demandas de infraestructura informática.

Sistema de almacenamiento de energía capacitivo (CESS)

Además, las colaboraciones entre Flex y los hiperescaladores han dado lugar a innovaciones como la sistema de almacenamiento de energía capacitivo Que abordan las sobrecargas de potencia de 1 MW a 2 MW que las GPU generan cada pocos segundos durante el entrenamiento de la IA y los cálculos de inferencia. Resolver este desafío ha sido crucial, ya que las fluctuaciones de energía pueden impedir que los centros de datos se conecten a la red eléctrica según los requisitos de los permisos de los servicios públicos.

Gestión de energía a nivel de chip

La gestión de energía a nivel de chip es esencial para acelerar la implementación de plataformas de computación. Los proveedores y operadores de centros de datos suelen colaborar con empresas de productos de energía integrados en las primeras etapas del proceso de diseño, a menudo años antes del lanzamiento oficial de los productos al mercado. Muchas de estas empresas trabajan con Flex para desarrollar... módulos de potencia que aumentan la eficiencia de la distribución de energía a GPU, unidad central de procesamiento (CPU), matriz de puertas programables en campo (FPGA) y diseños personalizados de circuitos integrados específicos de la aplicación (ASIC). La computación acelerada también impulsa la innovación en este ámbito, con algunos de los últimos diseños de módulos de potencia para convertidores de bus intermedio que ofrecen una potencia continua de 750 W y hasta 1500 W de potencia máxima con una eficiencia superior al 98 %.

FUERZA

ENFRIAMIENTO

Los centros de datos están sintiendo la presión

La computación acelerada no solo conlleva un aumento en el consumo de energía, sino que también supone un gran reto para las soluciones de refrigeración a nivel de rack. Por ejemplo, un rack de 100 kW genera más de 340 000 BTU/hora, el equivalente a 34 hornos domésticos estándar funcionando a plena capacidad.

Si bien este es un caso de uso relativamente pequeño hoy en día (los requisitos de energía promedio del rack todavía están en el rango de 12 kW), los hiperescaladores están impulsando la necesidad de tecnologías de enfriamiento innovadoras para soportar clústeres densos de servidores de IA.

La refrigeración líquida se ha utilizado durante décadas en las industrias automotriz y aeroespacial. Su implementación en centros de datos se ha centrado históricamente en clústeres de computación de alto rendimiento utilizados por gobiernos e instituciones académicas. A medida que aumenta la necesidad de soluciones de refrigeración que superen las capacidades de la refrigeración por aire tradicional, se impulsa la innovación en soluciones de refrigeración líquida.

Refrigeración líquida directa al chip

La refrigeración por aire, la opción tradicional para refrigerar la infraestructura de los centros de datos, es eficaz hasta aproximadamente 50 kW por rack. Sin embargo, la IA y la computación de alto rendimiento son diferentes, ya que el aumento de la densidad de potencia en los racks indica la necesidad de migrar a la refrigeración líquida. A medida que los hiperescaladores implementan más clústeres de GPU, se reconoce cada vez más que... Los racks refrigerados por líquido y las unidades de distribución de refrigerante (CDU) son los más adecuados para eliminar el calor en entornos de alta densidad..

Las CDU son dispositivos especializados dentro de un sistema de refrigeración líquida de circuito cerrado que gestionan con precisión la temperatura y el caudal del refrigerante, garantizando una eficiencia de refrigeración óptima. Al controlar el flujo de refrigerante hacia los equipos informáticos y devolverlo al sistema de agua de la instalación para su reenfriamiento, las CDU estabilizan las temperaturas y reducen el riesgo de sobrecalentamiento. Si la instalación dispone de agua, una CDU líquido-líquido puede transferir calor del circuito de refrigeración de los equipos informáticos al circuito de agua de la instalación para su reenfriamiento, estabilizando aún más las temperaturas, reduciendo el riesgo de sobrecalentamiento y aislando los equipos de los líquidos.

Unidad de disco duro JetCool SmartSense

El Unidad de disco duro JetCool SmartSense Es una CDU de 6U líquido-líquido de alto rendimiento, montada en rack, diseñada para soportar las intensas cargas térmicas de los racks de alta potencia y alta densidad de GPU. Con una capacidad de refrigeración de hasta 300 kW por rack o racks adyacentes, y escalabilidad a configuraciones en filas que ofrecen una capacidad de refrigeración de más de 2 MW, garantiza una refrigeración eficiente y fiable para centros de datos. En combinación con las placas frías avanzadas de JetCool, la CDU SmartSense ofrece una solución integral incluso para los entornos con mayor consumo de recursos. La CDU SmartSense, combinada con Placas frías JetCool SmartPlate, proporciona una solución de enfriamiento líder en la industria para procesadores de alta potencia, incluidos aquellos de más de 1500 W.

Tecnología de enfriamiento microconvectivo JetCool®

La tecnología microconvectiva ha demostrado ser eficaz en aplicaciones de alta densidad de potencia gracias a su eficiente transferencia de calor, que se dirige directamente a los puntos calientes con una serie de chorros de fluido. Este enfoque ofrece una resistencia térmica hasta un 40 % menor que la tecnología de placa fría de microcanal y puede utilizarse en configuraciones directas a la matriz y al encapsulado sin modificar el ensamblaje del chip. JetCool ha patentado su... tecnología de enfriamiento microconvectivo Diseñado para los exigentes requisitos de los centros de datos actuales, la informática de alto rendimiento y las aplicaciones de inteligencia artificial.

Refrigeración por microcanales

La refrigeración líquida por microcanal se basa en la propagación paralela y uniforme del calor a través de pequeños canales de fluido internos.

Enfriamiento microconvectivo

El enfriamiento líquido microconvectivo utiliza chorros perpendiculares y dirigidos para enfriar directamente los puntos calientes del procesador. Impulsando una mayor eficiencia y rendimiento.

Flex colabora directamente con los fabricantes de chips para personalizar las placas frías para sus respectivas familias de procesadores. Recientemente, la compañía lanzó una línea de diseños de servidores compatibles con refrigeración líquida, compatibles con el Proyecto de Computación Abierta (OCP), para hiperescaladores que buscan plataformas de computación acelerada personalizadas.

FUERZA

RACKS INTEGRADOS

Los diseños de rack integrados solucionan problemas de energía, calor y escala.

Con la creciente complejidad y escala de la informática en la era de la IA, los diseños de racks de sistemas integrados que integran tecnologías de computación, almacenamiento, red, energía y refrigeración son imperativos. Para equilibrar la estandarización y la personalización de los racks, OCP introdujo... Especificación de Open Rack v3 (ORv3) Impulsar la eficiencia en el diseño y la entrega de soluciones de rack integradas que cumplan con varios criterios de diseño de hiperescaladores. Los innovadores racks de alta densidad ofrecen avances en rendimiento computacional por metro cuadrado, lo que aumenta el retorno de la inversión (ROI) en capacidad del centro de datos y, al mismo tiempo, facilita la escalabilidad.

En colaboración con Flex, los principales hiperescaladores están implementando diseños de rack personalizados basados en ORv3 a gran escala. También están recurriendo a Flex para gestionar la integración vertical de soluciones de rack para centros de datos, desde la fabricación de estructuras y gabinetes de chapa metálica hasta el diseño y la fabricación de servidores, almacenamiento, racks, cableado, conmutadores, barras colectoras, bandejas de alimentación, baterías de respaldo y sistemas de refrigeración líquida. Por ejemplo, Rack compatible con ORv3 de Flex Actualmente está integrado con refrigeración líquida monofásica directa al chip y puede admitir refrigeración líquida bifásica, lo que brinda opciones a los clientes.

Calcular la placa base utilizando módulos de potencia y placa fría

Cerramientos que utilizan bandeja y bastidor

Servidor personalizado que utiliza aceleradores de GPU y tarjetas de red

Pero, así como la escasez de suministro de computadoras ha limitado el crecimiento de los centros de datos, la falta de disponibilidad de equipos de energía críticos, como transformadores, interruptores y generadores, ha causado demoras de varios años en el suministro de energía, según un estudio. Informe reciente de CBRELos hiperescaladores también señalan que la incapacidad de escalar está afectando una implementación más amplia de soluciones emergentes de refrigeración líquida.

A medida que evolucionan las arquitecturas de computación, energía y refrigeración, los operadores de centros de datos necesitarán confiar en empresas que puedan colaborar y escalar para cumplir con las hojas de ruta y garantizar que las actualizaciones y la capacidad de los centros de datos se implementen en los plazos previstos: empresas con experiencia en diseño, producto, fabricación, cadena de suministro, integración de sistemas y ecosistemas abiertos. La entrega confiable de soluciones innovadoras de energía y refrigeración es necesaria para una rápida implementación de centros de datos existentes y nuevos.

La capacidad de Flex para fabricar productos en América del Norte, Europa y Asia aumenta la capacidad, acorta los plazos de entrega y permite una rápida implementación de soluciones innovadoras de energía y refrigeración para centros de datos a escala mundial.

Características principales

Rack abierto de 21 pulgadas v3

Diseño ORv3 personalizado según sus requisitos, incluidas huellas de 19 pulgadas
29% más espacio frontal disponible
Flujo de aire optimizado de adelante hacia atrás

FUERZA