Liukuikkunahuomio (SWA) tehostaa rajahybridimalleja. Onko jotain parempaa? Esittelyssä Phalanx, nopeampi ja laadukkaampi drop-in-korvike liukuikkunoiden huomiolle (SWA). Phalanx on uusi laitteisto- ja numeeristietoisten ikkunakerrosten perhe, joka on suunniteltu keskittymään tietojen sijaintiin ja rosoisiin, lohkoihin kohdistettuihin ikkunoihin, jotka karttuvat suoraan GPU:ihin. Koulutuksessa Phalanx tarjoaa 10–40 % suuremman päästä päähän -suorituskyvyn 4K–32K-kontekstipituuksilla verrattuna optimoituihin SWA-hybrideihin ja Transformereihin vähentämällä kallista loimien välistä viestintää. Tänään julkaisemme sekä teknisen raportin, blogin että Phalanx-ytimet keihäässä, tutkimusydinkirjastossamme. Palkkaamme.