Swarm Inference är en game changer för AI-branschen. För att förstå varför måste du börja med hur avkastningen ser ut för byggarna av vanliga inferensleverantörer (GPU:er i datacenter). Ta på dig investerarhatten: -Du ser boomen av AI. Du vill engagera dig. Att köpa GPU:er, placera dem någonstans och hyra ut dem är kärnan i denna affärsmodell. - Du börjar modellera, du bygger dina PnL. Datacenter, servrar, konnektivitet etc. Detta är din CAPEX och COGS. Top-line sticker bara ut för avancerade GPU:er. Ström är dyrt. Hantering är inte trivialt. - Du kommer fram till en snabb slutsats: avkastningen är... tufft minst sagt. Om du går igenom den här övningen finns det en enkel TLDR: Att bidra till AI-ekonomin på infrastrukturnivå fungerar bara med skala, eller så är vissa anslutna till ström/utrymme. Infrastrukturen för slutsatsdragning är en handelsvara och avkastningen har komprimerats. Jag fortsätter att försöka hitta ett sätt att skära och tärna detta, men det känns bara som att det helt enkelt inte finns någon alfa att hitta här. Ur ett tekniskt perspektiv är allt detta en konsekvens av hur Inference historiskt har fungerat idag. Du behöver beräkningsdensitet. Hög bussgenomströmning, hög VRAM, etc. Swarm Inference är en game changer eftersom beräkningsdensitet inte längre är ett krav. CAPEX och COGS ovan är en konsekvens av nödvändigheten av beräkningsdensitet. Men om du inte behöver beräkningsdensitet behöver du inte datacenter. Med andra ord behöver enskilda infrastrukturleverantörer inte passera ett skalningshinder för att delta. Och om du inte behöver minsta skala för att delta, kanske till och med ett enskilt hem kan bidra till AI med avkastning som faktiskt är vettig. Det är därför Swarm Inference är en game changer. Det är innovation som förändrar var alfa kan hittas. Grattis till teamet på Fortytwo för att ha genomfört ett paradigmskifte.

DAWN letar efter kreativa hjärnor som är redo att ta sig an en utmaning. 💻🎨✍️ Vi har en prispott på $6 000 för olika projekt där du kan skriva, rita eller skapa innehåll på ditt eget språk! Kolla in dem. 👇