Argomenti di tendenza
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.
Sono passate solo poco più di 19 ore da quando OpenAI ha rilasciato gpt-oss, un modello finalmente completamente open source.
E la gente sta già diventando incredibilmente creativa e ottenendo risultati con esso.
10 esempi straordinari:
1. Costruire la modalità Pro di gpt-oss
Fondamentalmente o3 Pro ma open source
6 ago, 01:59
Presentiamo `gpt-oss Pro Mode`!
Fondamentalmente o3 Pro, ma per i nuovi modelli open source di OpenAI :)
Il Pro Mode collega fino a 10 istanze del nuovo modello GPT-OSS di OpenAI, permettendogli di produrre una risposta migliore di quanto possa fare un'unica istanza!
Open source, link qui:
2. Eseguire gpt-oss 120b su Macbook M4 Max
6 ago, 03:03
Su Macbook M4 Max
gpt-oss 120b:
48 tok/s alto
35 tok/s normale
23 tok/s bassa potenza
Uscite molto belle, nuovo modello di scelta
4. Agente vocale alimentato da gpt-oss
6 ago, 12:19
Un agente vocale alimentato da gpt-oss. In esecuzione localmente sul mio macBook. Demo registrata in un Waymo con il WiFi spento.
Sono ancora nel mio periodo di AI vocale per giochi spaziali, ovviamente. Link al codice qui sotto.
Per l'AI vocale conversazionale, è necessario impostare il comportamento di ragionamento di gpt-oss su "basso". (Il valore predefinito è "medio".) Note su come farlo e un modello jinja che puoi utilizzare si trovano nel repository.
Il LLM nel video demo è la grande versione da 120B di gpt-oss. Puoi utilizzare il modello più piccolo da 20B per questo, ovviamente. Ma OpenAI ha davvero fatto una cosa interessante progettando il modello da 120B per funzionare in "soli" 80GB di VRAM. E l'inferenza di llama.cpp mlx è veloce: ~250ms TTFT.
Eseguire un grande modello sul dispositivo sembra un salto nel futuro dell'AI.
9. gpt-oss con l'app Chat pensante
6 ago, 05:24
app di chat openai gpt-oss con thinking-ui (100% locale):
Se ti è piaciuto questo thread,
Seguimi @minchoi e per favore aggiungi ai segnalibri, metti mi piace, commenta e ripubblica il primo post qui sotto per condividerlo con i tuoi amici:
6 ago, 22:28
Sono passate solo poco più di 19 ore da quando OpenAI ha rilasciato gpt-oss, un modello finalmente completamente open source.
E la gente sta già diventando incredibilmente creativa e ottenendo risultati con esso.
10 esempi straordinari:
323,71K
Principali
Ranking
Preferiti