Yapay zekadaki GPU kıtlığı asla çiplerle ilgili değildi. Bolca var. Gerçek kriz ise hâlâ çoğunu kullanamamamız. İşte nedeni 🧵

@cot_research 2/ Boşluğa bakın: Gönüllü hesaplama gibi Folding@Home tüketici donanımında sorunsuz çalışıyor. @pewdiepie bile harika işler yapıyor ve katkıda bulunuyor! Ancak modern yapay zeka iş yükleri başarısız olacak. Aynı donanım havuzu. Çok farklı bir sonuç. Neden?

3/ Modern yapay zeka çalışma süreleri (çıkarım veya eğitim) steril koşulları varsayıyor: - Aynı GPU'lar - Düşük gecikmeli, kararlı bağlantılar Ancak gerçek dünya, heterojen makineler ve gecikmeli internet karmaşası. Standart teknoloji yığını burada çöker.

4/ Sözde "merkeziyetsiz" hesaplama ağı bu karmaşayı bir kenar vakası olarak gördüğü için ürün piyasası uyumunu sağlayamadı. Boşta olan GPU'ları toplamak için pazarlar kurarlar, ancak toplama koordinasyon değildir. Donanım tek bir tutarlı makine gibi davranamıyorsa, bu... Biraz işe yaramaz

5/ Koordinasyon yukarı akışta. Hesaplama ağlarında: önce parçalanmış donanımın koordinasyonunu çözmezseniz, geliştirdiğiniz başka hiçbir şey önemli değildir. Güvenilirlik ve Geliştirici Deneyimi ise sonraki sorunlardır.

6/ @YottaLabs, bu durumu baştan ele alan ve güçlü ilerleme kaydeden ilk takım oldu. Yapay zeka yığınını zamanlayıcıdan iletişim katmanına kadar yeniden inşa ederek, merkezi olmayan hesaplama performansını merkezi kümelerin ~%15'ine kadar taşıdılar.

7/ Daha da ilginç olanı @YottaLabs'ın iş modeli. Pazar yeri ikincil konumda. Google'ın taklit edemeyeceği bir veri dayanıklılığı için veri hendeğini inşa ediyorlar - akıllı optimizer Yotta, her termal sikiyi ve ağ aksaklığını optimizer'a geri besliyor. Bununla ilgili daha sonra daha fazla konuşurum.