Gemma 3 270M (8-bit) também é rápido no iPhone 16 Pro 🏎️ ~140 tk/s para o chip A18 Pro com MLX, não está tão longe do chip M3 Embora o Gemma 3 270M não seja destinado a chat, é perfeito para ser usado com os Atalhos da Apple em tarefas como resumo, por exemplo.
26,41K