Myslím, že HBF je příliš přeceňovaný V některých případech, pokud bude software výrazně upraven, nebude nemožné ho používat, ale je to iluze, že nahradí HBM nebo že trh bude velký Jak je zde napsáno, pokud je to téměř načtené, bude to bias a váha stejného modelu, ne KV, ale to by bylo naprosto nepoužitelné Podle odborníků by HBF mohl být představen v grafických kartách NVIDIA do roku 2027~28 a trh by mohl HBM překonat do roku 2038 S nástupem AI pracovních zátěží se přijetí flash flash s vysokou šířkou pásma (HBF) zrychluje a odborníci předpovídají komercializaci dříve, než se očekávalo. Podle Sisa Journal profesor KAIST Kim Čong-ho, známý jako "otec HBM", navrhuje, že Samsung Electronics a SanDisk plánují integrovat HBF do produktů NVIDIA, AMD a Google do konce roku 2027 nebo začátkem roku 2028. Jak je uvedeno ve zprávě, Kim dodává, že ačkoliv vývoj HBM trvá více než 10 let, HBF by mohl být komercializován mnohem dříve, protože firmy již využívají procesy a designové znalosti získané v HBM k vývoji HBF. Kromě toho Kim předpovídá, že adopce HBF se rozšíří kolem doby, kdy bude HBM6 uveden, a trh HBF může HBF překonat kolem roku 2038. Podle Kima HBM6 není jeden paměťový stack, ale více stacků je propojených jako bytový dům. Vzhledem k tomu, že HBM založené na DRAM čelí kapacitním omezením, Kim věří, že HBF ve formě NAND stacků se objeví, aby tuto mezeru zaplnil. Role HBF v AI inferenci a architektuře systému Pokud jde o roli HBF v AI zátěžích, Kim vysvětlil, že GPU nejprve získávají proměnná data z HBM během inference, zpracovávají je a generují výstup. Kim věří, že v budoucnu HBF převezme tuto roli a poskytne výrazně větší kapacitu pro podporu tohoto úkolu. HBM je rychlejší, zatímco HBF poskytuje asi 10krát větší kapacitu. Jak je uvedeno ve zprávě, Kim zdůrazňuje, že HBF podporuje neomezené čtecí cykly, ale je omezena na přibližně 100 000 zápisových cyklů, takže software firem jako OpenAI a Google musí být optimalizován pro operace s náročným čtením. Kim dále dodal, že současný proces dodávání dat do GPU zahrnuje dlouhou přenosovou cestu přes paměťovou síť, datové procesory a GPU pipeline. V budoucnu společnost plánuje efektivnější architekturu, která bude schopna zpracovávat data přímo za HBM. Tato struktura, která by měla být implementována v HBM7, je někdy označována jako "paměťová továrna". Samsung a SK hynix podporují vývoj HBF Jak je zdůrazněno ve zprávě, SK hynix plánuje vydat zkušební verzi HBF pro demo později tento měsíc. Zpráva také upozornila, že Samsung Electronics a SK hynix podepsaly memorandum o porozumění (MOU) se SanDisk na podporu standardizace HBF a v současnosti na této iniciativě pracují prostřednictvím společného konsorcia. Obě společnosti aktivně vyvíjejí produkty HBF a plánují je uvést na trh v roce 2027. Podle zdrojů z oboru citovaných ve zprávě se odhaduje, že HBF dokáže dodávat šířky pásma přesahující 1 638 GB/s, což je významný skok ve srovnání se standardními SSD, které obvykle nabízejí kolem 7 000 MB/s přes NVMe PCIe 4.0. Co se týče kapacity, HBF by měl dosáhnout až 512 GB, což je výrazně více než 64 GB HBM4.