NVIDIA logra exprimir un 24% más de potencia con su plataforma DSX
Foto de Mariia Berezovsky en Unsplash
NVIDIA ha presentado DSX, una plataforma integral diseñada para maximizar la eficiencia de los centros de datos especializados en IA. El objetivo es directo: obtener más trabajo con la misma cantidad de energía disponible.
El punto de partida es que la potencia eléctrica es el cuello de botella principal en estas instalaciones. Por eso, NVIDIA ha desarrollado varias herramientas que actúan de manera coordinada. DSX MaxLPS monitoriza el consumo de energía en tiempo real a nivel de GPU y de bastidor, redistribuyendo la capacidad disponible según el tipo de carga de trabajo. De este modo, recupera capacidad que quedaría ociosa con sistemas tradicionales.
Según datos de Lambda, proveedor de computación en la nube, los resultados son convincentes. Al ejecutar 19 servidores dentro del mismo presupuesto de energía que normalmente requieren 16 nodos a potencia máxima, la plataforma consiguió aumentar el rendimiento de tokens en un 24%, pasando de aproximadamente 4 millones de tokens por segundo a 5 millones. La eficiencia energética mejoró un 23%.
Además, DSX Flex permite que los centros de datos respondan a señales de la red eléctrica, ralentizando o reprogramando trabajos no prioritarios mientras mantiene en marcha los servicios críticos. Un caso real en Silicon Valley demostró esta capacidad: reducir el consumo de 4 megavatios a 3 de forma automática más de 200 veces sin fallos.
NVIDIA proyecta que su plataforma podría permitir hasta un 40% más de capacidad de GPU en próximas generaciones manteniendo los mismos límites de potencia.