NVIDIA Blackwell Ultra: Ein richtiger Leistungssprung für KI-Systeme

Laut Analyse erreicht das GB300-NVL72-System bis zu 50x höheren Durchsatz pro Megawatt und senkt die Kosten pro Token um bis zu 35x im Vergleich zur Hopper-Generation. Die Kombination aus Hardware-Architektur, Systemdesign und Softwareoptimierungen wie TensorRT-LLM, Dynamo, Mooncake und SGLang soll diese Effizienzsprünge ermöglichen.

Der Bedarf an agentischen KI-Systemen wächst rasant: Laut OpenRouter sei der Anteil programmierbezogener KI-Anfragen im vergangenen Jahr von 11 auf rund 50 Prozent gestiegen. Diese Workloads benötigen extrem niedrige Latenzen und lange Kontexte, um über komplette Codebasen hinweg zu argumentieren. NVIDIA betont, dass Blackwell Ultra genau für diese Anforderungen entwickelt wurde.

Signal65 verweist zudem darauf, dass bereits GB200-NVL72-Systeme mehr als 10x mehr Tokens pro Watt liefern und damit ein Zehntel der Kosten pro Token gegenüber Hopper erreichen. Die kontinuierlichen Softwareverbesserungen hätten die Leistung in nur vier Monaten um bis zu 5x gesteigert. Blackwell Ultra setzt darauf auf und erweitert die Effizienzgrenze erneut.

Für lange Kontexte zeigt sich laut SemiAnalysis ein weiterer Vorteil: Bei Eingaben mit 128.000 Tokens und Ausgaben mit 8.000 Tokens liefere GB300 NVL72 bis zu 1.5x niedrigere Kosten pro Token als GB200. Möglich werde dies durch 1.5x höhere NVFP4-Compute-Leistung und doppelt so schnelle Attention-Verarbeitung.

Cloudanbieter wie Microsoft, CoreWeave und OCI setzen GB300 NVL72 bereits produktiv ein. NVIDIA kündigt zudem mit der kommenden Rubin-Plattform einen weiteren Leistungssprung an, der für MoE-Inferenz bis zu 10x höheren Durchsatz pro Megawatt verspricht.