熱門話題
#
Bonk 生態迷因幣展現強韌勢頭
#
有消息稱 Pump.fun 計劃 40 億估值發幣，引發市場猜測
#
Solana 新代幣發射平臺 Boop.Fun 風頭正勁
自從 OpenAI 發布 gpt-oss，這個完全開源的模型，距今已經過了19個小時多一點。
而人們已經開始展現出瘋狂的創意和成果。
10個瘋狂的例子：
1. 建立 gpt-oss 專業模式
基本上是 o3 專業版，但開源
8月6日 01:59
介紹 `gpt-oss Pro Mode`！
基本上是 o3 Pro，但適用於新的 OpenAI 開源模型 :)
Pro Mode 將多達 10 個新的 OpenAI GPT-OSS 模型實例鏈接在一起，使其能夠產生比單個實例更好的答案！
開源，鏈接在這裡：
在 Macbook M4 Max 上運行 gpt-oss 120b
8月6日 03:03
在 Macbook M4 Max 上
gpt-oss 120b:
48 個 token/秒 高速
35 個 token/秒 正常
23 個 token/秒 低功耗
輸出非常不錯，新的選擇模型
4. 由 gpt-oss 驅動的語音代理
8月6日 12:19
一個由gpt-oss驅動的語音代理。正在我的MacBook上本地運行。演示是在WiFi關閉的Waymo中錄製的。
顯然，我仍然沉迷於我的太空遊戲語音AI。代碼鏈接在下面。
對於對話式語音AI，您需要將gpt-oss的推理行為設置為“低”。（默認是“中”）。有關如何做到這一點的說明和您可以使用的jinja模板在倉庫中。
演示視頻中的LLM是gpt-oss的大型120B版本。當然，您可以使用更小的20B模型。但OpenAI在這裡確實做了一件很酷的事情，設計了120B模型以在“僅僅”80GB的VRAM中運行。而且，llama.cpp mlx推理速度很快：約250毫秒TTFT。
在設備上運行大型模型感覺像是進入了AI的未來時光。
9. gpt-oss 與思考聊天應用程式
8月6日 05:24
openai gpt-oss 聊天應用程式，帶有 thinking-ui（100% 本地）:
如果您喜歡這個帖子，
@minchoi關注我，請收藏、點讚、評論並轉發下面的第一篇帖子，與您的朋友分享：
8月6日 22:28
自從 OpenAI 發布 gpt-oss，這個完全開源的模型，距今已經過了19個小時多一點。
而人們已經開始展現出瘋狂的創意和成果。
10個瘋狂的例子：
323.71K
熱門
排行
收藏