Atenția geamurilor glisante (SWA) alimentează modelele hibride de frontieră pentru eficiență. Există ceva mai bun? Vă prezentăm Phalanx, un înlocuitor drop-in mai rapid și de calitate mai bună pentru atenția ferestrelor glisante (SWA). Phalanx este o nouă familie de straturi ferestre hardware și numerice, concepute cu accent pe localitatea datelor și ferestre zimțate, aliniate cu blocuri, care se mapează direct la GPU-uri. În timpul instruirii, Phalanx oferă un debit end-to-end cu 10-40% mai mare la lungimi de context 4K-32K față de hibrizii SWA optimizați și Transformers, reducând comunicarea costisitoare între warp. Astăzi, lansăm atât raportul tehnic, un blog, cât și Phalanx kernels in spear, biblioteca noastră de nuclee de cercetare. Angajăm.