AMD Epyc: Neuer Weltrekord bei Inferenzdurchsatz

ZT Systems und AMD haben auf den Xilinx Developer Forum ein neues System vorstellen können, welches mit zwei AMD Epyc 7551 Prozessoren ausgerüstet ist. Die 180-Watt-CPUs können jeweils 32 Kerne zur Verfügung stellen und bis zu 64 Threads gleichzeitig bearbeiten. Der maximale Boost-Takt der AMD Epyc 7551 Prozessoren liegt bei 3,0 GHz und der Standard-Takt bei 2,0 GHz.

(Bild: System mit acht Xilinx Alveo U250)

Den Inferenzdurchsatz von 30.000 Bildern pro Sekunde wurde mit acht Xilinx Alveo U250 Beschleunigungskarten erreicht. Der Benchmark wurde mit GoogLeNet (mit einer Batch-Size von 1 und Int8-Precision) durchgeführt. Bei GoogLeNet handelt es sich um ein neuronales Faltungsnetzwerk. AMD und Xilinx kooperieren bei der Entwicklung heterogenen Rechen-Architekturen. Die neu vorgestellten Xilinx Alveo U250 ist speziell auf maschinelles Lernen ausgelegt und erreicht fast den 20-fachen Echtzeit-Inferenzdurchsatz im Vergleich zu High-End-CPUs.