Det finns 384 GB snabb VRAM i Blackwell tinybox 🧵

Vi tröttnade på att använda leverantörsverktyg för bandbreddstester, så vi skrev ett universellt verktyg i Tinygrad. GPU:erna är anslutna med full PCIe 5.0 x16

Fackel-GEMM på ett enda kort är 438 TFLOPS BF16 -> FP32. Det ger maskinen 1,75 PFLOPS verklig GEMM-prestanda.

Vid topp ligger vi på 3,1 PFLOPS över korten. Här är det som bristen på 5090:s nerfing verkligen lyser igenom, det är mer än dubbelt så många råa FLOPS som en tinybox green v2!

Alla våra Blackwell-lådor kommer att skickas med vår senaste RAID-uppsättning. **55,3 GB/s** av benchmarkad läsbandbredd, vilket är snabbare än RAM-minnet på de flesta mobiltelefoner.

Medan vi väntar på gpu-fritösen, här är mmapeak. **3,1 PFLOPS** över korten fp16 -> fp32. Här är det som bristen på 5090:s nerfing verkligen lyser igenom, det är mer än dubbelt så många råa FLOPS som en tinybox green v2!

Här är den i huggingface/gpu-fritösen. 2522W på full effekt, ingen Max-Q här!

Sluttemperaturerna vid mättnad efter 15 minuter var 72°C, 80°C, 71°C och 76°C. Vi jobbar fortfarande på fläktpolicyn och kortlayouten, kylarna skiljer sig från vad vi har haft tidigare. Men fraktmaskinen kommer att vara *åtminstone* så här bra.