"Como o 0G alcança a inclusão da IA?" A palavra hegemonia não é nova nos tempos modernos, como hegemonia do dólar, dominação de chips, etc No século 21, com o rápido desenvolvimento da ciência e da tecnologia, a IA é o @0G_labs de cristalização mais avançado da sociedade humana A IA depende mais de modelos, e o treinamento de modelos não é um problema técnico no momento, mas uma questão de direitos de recursos Apenas algumas empresas têm centros de supercomputação, largura de banda de alta velocidade e clusters de GPU síncronos para treinar um modelo grande com parâmetros de 100B, que é em si uma linha divisória de poder 🟣 E @0G_labs está quebrando essa linha DiLoCoX é a mais recente bomba rei da 0G Eles concluíram com êxito o treinamento distribuído de um modelo de parâmetro 107B em um ambiente de rede com largura de banda de apenas 1 Gbps, usando um cluster de 160 A800s Sem supercomputação, sem interconexão de fibra, sem campos de treinamento para grandes fabricantes, nem mesmo Infiniband O modelo final tem uma perda de precisão inferior a 0,5% e a eficiência de treinamento é mais de 357 vezes maior do que a da arquitetura AllReduce tradicional @0G_labs o chama de DiLoCoX, uma estrutura de treinamento distribuída adaptada para ambientes de baixa comunicação A chave é criar um mecanismo de treinamento que tolere latência, suporte assíncrono, possa avançar de forma independente em diferentes locais e, por fim, agregue O significado desta questão não é apenas poupar dinheiro 🟣 #0G Quebrar a centralização do processo de construção do modelo traz o afrouxamento das fronteiras da participação O que antes estava fora do alcance da maioria dos países, empresas e desenvolvedores agora está: > Uma universidade pode unir dez pequenas empresas para formar em conjunto um modelo vertical > Um país africano pode implantar sistemas inteligentes on-premises sem AWS ou Google Cloud > Uma comunidade distribuída pode coordenar GPUs e dados on-chain, usando ativos inteligentes como incentivos para obter treinamento colaborativo de cauda longa A atual guerra da IA não é sobre produtos, mas sobre recursos Mesmo se você tiver uma excelente arquitetura de algoritmo, se não puder treinar com eficiência, sempre parará no estágio de protótipo ou ajuste fino No modo tradicional, a sincronização e a largura de banda de rede necessárias para o treinamento são em si uma bomba de custo e constituem o fosso central dos fornecedores centrais de nuvem DiLoCoX começou a tirar essa dependência de baixo para alcançar a verdadeira inclusão da IA
2,36K