"Hoe realiseert 0G AI toegankelijkheid?" Het woord hegemonie is in de moderne tijd niet nieuw, zoals de hegemonie van de dollar, de hegemonie van chips, enzovoort. In de snel ontwikkelende 21e eeuw is AI de meest geavanceerde uitkomst van de menselijke samenleving @0G_labs. AI is sterk afhankelijk van modellen; het trainen van modellen is tegenwoordig geen technisch probleem, maar een kwestie van middelen en macht. Slechts een paar bedrijven beschikken over supercomputers, hoge bandbreedte en gesynchroniseerde GPU-clusters. Het trainen van een groot model met 100B parameters is op zich al een scheidslijn van macht. 🟣 En @0G_labs doorbreekt deze lijn. DiLoCoX is de nieuwste doorbraak van 0G. Ze hebben met succes een gedistribueerde training van een model met 107B parameters voltooid in een netwerk met slechts 1Gbps bandbreedte, met behulp van een cluster bestaande uit 160 A800's. Geen supercomputer, geen glasvezelverbinding, geen trainingslocaties van grote bedrijven, zelfs geen Infiniband. De uiteindelijke precisieverlies van het model is minder dan 0,5%, en de trainings efficiëntie is meer dan 357 keer verbeterd ten opzichte van de traditionele AllReduce-architectuur. @0G_labs noemt het DiLoCoX, een gedistribueerd trainingsframework dat is afgestemd op omgevingen met lage communicatie. De sleutel ligt in: het opbouwen van een trainingsmechanisme dat tolerant is voor vertraging, asynchroon ondersteunt, onafhankelijk kan worden voortgezet op verschillende locaties en uiteindelijk kan worden samengevoegd. De betekenis van deze zaak is niet alleen geld besparen. 🟣 #0G doorbreekt de centralisatie in het modelbouwproces, wat leidt tot een versoepeling van de participatiegrenzen. Voor de meeste landen, bedrijven en ontwikkelaars was dit vroeger onbereikbaar, maar nu: > Een universiteit kan samenwerken met tien kleine bedrijven om gezamenlijk een nichemodel te trainen. > Een Afrikaans land kan zonder AWS of Google Cloud ook lokale intelligente systemen implementeren. > Een gedistribueerde gemeenschap kan op de blockchain GPU's en data coördineren, met slimme activa als stimulans, om lange termijn samenwerking in training te realiseren. De huidige AI-oorlog gaat niet om producten, maar om middelen. Zelfs als je een uitstekende algoritmische architectuur hebt, als je niet efficiënt kunt trainen, blijf je altijd steken in de prototype- of fine-tuningfase. En in het traditionele model zijn de vereiste synchronisatie en netwerkbandbreedte voor training op zich al een kostenbom, en vormen ze de kern van de verdedigingslinie van centrale cloudleveranciers. DiLoCoX begint deze afhankelijkheid van onderaf te ontmantelen en realiseert echte AI-toegankelijkheid.