Blackwell tinybox 🧵 are 384 GB de VRAM rapidă

Ne-am săturat să folosim uneltele furnizorilor pentru testele de lățime de bandă, așa că am scris unul universal în Tinygrad. GPU-urile sunt conectate la PCIe 5.0 x16 complet

Torța GEMM pe o singură placă este de 438 TFLOPS BF16 -> FP32. Asta plasează mașina la 1,75 PFLOPS din performanța reală GEMM.

La mmapeak, avem 3.1 PFLOPS pe toate cardurile. Aici se evidențiază cu adevărat lipsa nerf-urilor la 5090, este mai mult decât dublul FLOP-urilor brute ale unui tinybox green v2!

Toate cutiile noastre Blackwell vor fi livrate cu cel mai nou sistem RAID al nostru. **55,3 GB/s** de lățime de bandă de citire evaluată, care este mai rapidă decât memoria RAM de pe majoritatea telefoanelor mobile.

În timp ce așteptăm prăjitorul GPU, iată mmapeak. **3.1 PFLOPS** pe toate cardurile fp16 -> fp32. Aici se evidențiază cu adevărat lipsa nerf-urilor la 5090, este mai mult decât dublul FLOP-urilor brute ale unui tinybox green v2!

Iată-l în buggingface/GPU-fryer. 2522W la putere maximă, nu există Max-Q pe aici!

Temperaturile finale la saturație după 15 minute au fost 72°C, 80°C, 71°C și 76°C. Încă lucrăm la politica ventilatoarelor și la aranjamentul cardurilor, răcitoarele sunt diferite față de cele cu care am lucrat înainte. Dar mașina de transport va fi *cel puțin* atât de bună.