Mina största takeaways från dagens Apple-keynote: - Apple fokuserar på att förbättra GPU:erna för AI-inferens. Apple Neural Engine nämndes inte ens en enda gång. - Räkna med att inferensberäkning kommer att öka 3-4 gånger (kanske mer) i de kommande M5 Apple Silicon-chippen för Mac. Minnesbandbredd är fortfarande en viktig faktor när det gäller inferens, men med nya glesa MoE-modeller som Qwen 3 Next kommer beräkningsfaktorn att bli viktigare. - MLX (inte CoreML) är där AI händer. Jag antar att Metal kommer att stödja neurala acceleratorer från dag ett och det kommer MLX också att göra eller kommer att göra strax efter. - Om prestandaökningen på 3-4x är verklig kommer de kommande M5-chippen att vara vansinnigt bra på AI-inferens och träning. De är redan den bästa valutan för pengarna och kommer att bli ännu mer så när M5 lanseras - I takt med att både mjukvara (MLX), modeller och hårdvara förbättras kommer lokal AI-inferens på enheten att få ett enormt uppsving på både iPhone och Mac