"Come può 0G realizzare l'AI per tutti?" Il termine egemonia non è nuovo nel mondo moderno, come l'egemonia del dollaro, l'egemonia dei chip, ecc. Nel 21° secolo, caratterizzato da un rapido sviluppo tecnologico, l'AI è il risultato più avanzato della società umana @0G_labs. Ciò di cui l'AI ha più bisogno sono i modelli; l'addestramento dei modelli non è più un problema tecnico, ma una questione di risorse e potere. Solo poche aziende possiedono centri di supercalcolo, larghezze di banda elevate e cluster GPU sincronizzati; addestrare un grande modello con 100 miliardi di parametri è di per sé una linea di demarcazione del potere. 🟣E @0G_labs sta rompendo questa linea. DiLoCoX è l'ultima grande innovazione di 0G. In un ambiente di rete con solo 1 Gbps di larghezza di banda, sono riusciti a completare l'addestramento distribuito di un modello con 107 miliardi di parametri, utilizzando una risorsa computazionale costituita da un cluster di 160 A800. Nessun supercalcolo, nessuna connessione in fibra ottica, nessun grande spazio di addestramento, nemmeno Infiniband. La perdita di precisione finale del modello è inferiore allo 0,5%, e l'efficienza di addestramento è aumentata di oltre 357 volte rispetto all'architettura tradizionale AllReduce. @0G_labs lo chiama DiLoCoX, un framework di addestramento distribuito su misura per ambienti a bassa comunicazione. La chiave è: costruire un meccanismo di addestramento che tolleri la latenza, supporti l'asincronia, possa progredire in modo indipendente in diverse località e infine aggregarsi. Il significato di questo non è solo risparmiare denaro. 🟣#0G rompe la centralizzazione del processo di costruzione del modello, portando a una maggiore flessibilità nei confini di partecipazione. Per la maggior parte dei paesi, delle aziende e degli sviluppatori, ciò che prima era inaccessibile ora: > Un'università può collaborare con dieci piccole aziende per addestrare insieme un modello di nicchia. > Un paese africano può implementare un sistema intelligente locale senza AWS o Google Cloud. > Una comunità distribuita può coordinare GPU e dati sulla blockchain, utilizzando asset intelligenti come incentivo per realizzare un addestramento collaborativo a lungo termine. La guerra attuale dell'AI non riguarda i prodotti, ma le risorse. Anche se hai un'ottima architettura algoritmica, se non puoi addestrare in modo efficiente, rimarrai sempre bloccato nella fase di prototipo o di messa a punto. E nel modello tradizionale, la sincronizzazione e la larghezza di banda di rete necessarie per l'addestramento sono di per sé una bomba di costi, costituendo il principale scudo dei fornitori di cloud centralizzati. DiLoCoX inizia a disaccoppiare questa dipendenza a livello fondamentale, realizzando una vera AI per tutti.
2,21K