Cinco tendencias para el centro de datos en la era IA

El informe Vertiv™ Frontiers , detalla las tendencias tecnológicas que impulsan la innovación actual y futura, desde la potenciación para IA, hasta los gemelos digitales y la refrigeración líquida adaptativa.

El informe Vertiv Frontiers se basa y expande las predicciones anuales anteriores de Tendencias en Centros de Datos de Vertiv. El informe identifica las fuerzas macro que impulsan la innovación en centros de datos: densificación extrema—acelerada por cargas de trabajo de IA y HPC; escalamiento en potencia (gigavatios) y de manera más rápida —los centros de datos ahora se implementan rápidamente y a una escala sin precedentes; centro de datos como unidad de cómputo—la era de la IA requiere que las instalaciones se construyan y operen como un sistema único; y diversificación del silicio—la infraestructura del centro de datos debe adaptarse a una gama creciente de chips y capacidad de cómputo.

1. Preparación para IA

La mayoría de los centros de datos actuales aún dependen de la distribución de energía híbrida AC/DC desde la red hasta los racks de TI, que incluye tres a cuatro etapas de conversión y algunas ineficiencias. Este enfoque existente está bajo presión a medida que aumentan las densidades de potencia, impulsadas en gran parte por las cargas de trabajo de IA. El cambio a arquitecturas DC de Alto voltaje permite reducciones significativas en la corriente, el tamaño de los conductores y el número de etapas de conversión, mientras centraliza la conversión de energía a nivel de sala blanca. Los sistemas híbridos AC y DC son generalizados, pero a medida que los estándares y equipos DC completos maduren, es probable que el DC de Alto voltaje se vuelva más prevalente a medida que aumenten las densidades de los racks. La generación in situ y las microrredes también impulsarán la adopción de DC de Alto voltaje.

• IA distribuida

Los miles de millones de dólares invertidos en centros de datos de IA para soportar modelos de lenguaje grande (LLMs) hasta la fecha han estado dirigidos a apoyar la adopción generalizada de herramientas de IA por parte de consumidores y empresas. Vertiv cree que la IA se está volviendo cada vez más crítica para las empresas, pero cómo y desde dónde se entregan esos servicios de inferencia dependerá de los requisitos y condiciones específicas de la organización. Si bien esto afectará a empresas de todo tipo, las industrias altamente reguladas, como finanzas, defensa y salud, pueden necesitar mantener entornos de IA privados o híbridos a través de centros de datos locales, debido a requisitos de almacenamiento y proteccion  de datos, seguridad o latencia. Los sistemas de potencia flexibles y escalables de alta densidad y refrigeración líquida podrían habilitar capacidad a través de nuevas construcciones o modernización de instalaciones existentes.

• La autonomía energética se acelera

La capacidad de generación de energía in situ a corto plazo ha sido esencial para la mayoría de los centros de datos independientes durante décadas, para apoyar la resiliencia. Sin embargo, los desafíos generalizados de disponibilidad de energía están creando condiciones para adoptar una autonomía energética extendida, especialmente para centros de datos de IA. La inversión en generación de energía in situ, a través de turbinas de gas natural y otras tecnologías, tiene varios beneficios intrínsecos pero está impulsada principalmente por los desafíos de disponibilidad de energía. Es probable que estrategias tecnológicas como Bring Your Own Power (y Refrigeración) sean parte de los planes continuos de autonomía energética.

• Diseño y operaciones impulsados por gemelos digitales

Con cargas de trabajo de IA cada vez más densas y GPUs más potentes también viene una demanda para implementar estas complejas fábricas de IA rapidamente. Usando herramientas basadas en IA, los centros de datos pueden ser mapeados y especificados virtualmente, a través de gemelos digitales, y la TI y la infraestructura digital crítica pueden ser integradas, a menudo como diseños modulares prefabricados, e implementadas como unidades de cómputo, reduciendo el tiempo por token hasta en un 50%. Este enfoque será importante para lograr eficientemente las expansiones a escala de gigavatios requeridas para futuros avances en IA.

• Refrigeración líquida adaptativa y resiliente

Las cargas de trabajo e infraestructura de IA han acelerado la adopción de la refrigeración líquida. Pero a la inversa, la IA también puede usarse para refinar y optimizar aún más las soluciones de refrigeración líquida. La refrigeración líquida se ha vuelto crítica para un número creciente de operadores, pero la IA podría proporcionar formas de mejorar aún más sus capacidades. La IA, junto con sistemas adicionales de monitoreo y control, tiene el potencial de hacer que los sistemas de refrigeración líquida sean más inteligentes y aún más robustos al predecir posibles fallas y gestionar eficazmente fluidos y componentes. Esta tendencia debería conducir a una mayor confiabilidad y tiempo de actividad para hardware de alto valor y datos/cargas de trabajo asociados.