Vera Rubin NVL72 de NVIDIA lidera en rendimiento de inferencia IA
Foto de Mariia Berezovsky en Unsplash
NVIDIA ha presentado resultados de su nuevo sistema Vera Rubin NVL72 en los últimos benchmarks de rendimiento de inferencia de IA (MLPerf Inference v6.1). Según el blog de NVIDIA, el nuevo hardware logra velocidades de procesamiento hasta 3,7 veces superior al GB300 NVL72 en modelos como Qwen3-VL, y 2,5 veces más rápido en el modelo DeepSeek-R1.
El salto de rendimiento proviene de una combinación de mejoras en hardware y software. El Vera Rubin incorpora Tensor Cores mejorados y un Transformer Engine reforzado que aceleran tanto la fase de prefill como la de decodificación durante la inferencia. Además, utiliza una nueva precisión llamada NVFP4 que reduce la memoria necesaria sin perder apenas calidad.
Lo interesante es que NVIDIA ha demostrado que su infraestructura escala de forma eficiente. Un sistema con 288 GPUs repartidas en cuatro racks alcanzó un 99% de eficiencia de escalado, lo que significa que al añadir hardware, el rendimiento crece proporcionalmente sin desperdiciar recursos.
Por otro lado, el GB300 NVL72 también destaca por su eficiencia en escalado múltiple. Desde un rack individual hasta cuatro racks, la velocidad de procesamiento crece casi linealmente, algo crucial en data centers reales donde los costes importan.
NVIDIA también subraya que la innovación continúa: las optimizaciones de software entre versiones de MLPerf han entregado hasta 1,6 veces más rendimiento, con mejoras posteriores aún en desarrollo.