Moje największe wnioski z dzisiejszej prezentacji Apple: - Apple koncentruje się na poprawie GPU do wnioskowania AI. Apple Neural Engine nie został nawet raz wspomniany. - Oczekuj, że moc obliczeniowa wnioskowania wzrośnie 3-4 razy (może więcej) w nadchodzących chipach M5 Apple Silicon dla Maca. Przepustowość pamięci wciąż jest ważnym czynnikiem w przypadku wnioskowania, ale z nowymi rzadkimi modelami MoE, takimi jak Qwen 3 Next, czynnik obliczeniowy stanie się ważniejszy. - MLX (nie CoreML) to miejsce, gdzie dzieje się AI. Zakładam, że Metal będzie wspierać Akceleratory Neuronalne od pierwszego dnia, a tak samo MLX lub wkrótce po tym. - Jeśli wzrost wydajności 3-4 razy jest rzeczywisty, nadchodzące chipy M5 będą niesamowicie dobre w wnioskowaniu i treningu AI. Już teraz oferują najlepszy stosunek jakości do ceny, a będą jeszcze lepsze, gdy M5 zadebiutuje. - Dzięki poprawie oprogramowania (MLX), modeli i sprzętu, lokalne wnioskowanie AI na urządzeniach będzie miało ogromny wzrost zarówno na iPhonie, jak i Macu.