Mis mayores conclusiones de la presentación de Apple de hoy: - Apple se centra en mejorar las GPU para la inferencia de IA. El Apple Neural Engine ni siquiera se mencionó una vez. - Espere que el cómputo de inferencia aumente 3-4 veces (tal vez más) en los próximos chips M5 Apple Silicon para Mac. El ancho de banda de la memoria sigue siendo un factor importante cuando se trata de inferencia, pero con nuevos modelos de MoE dispersos como Qwen 3 Next, el factor de cómputo será más importante. - MLX (no CoreML) es donde ocurre la IA. Supongo que Metal admitirá los aceleradores neuronales desde el primer día y también lo hará MLX o poco después. - Si el aumento de rendimiento de 3-4 veces es real, los próximos chips M5 serán increíblemente buenos en la inferencia y el entrenamiento de IA. Ya son la mejor relación calidad-precio y lo serán aún más cuando se lance el M5 - Con la mejora del software (MLX), los modelos y el hardware, la inferencia de IA local en el dispositivo recibirá un gran impulso tanto en iPhone como en Mac