热门话题
#
Bonk 生态迷因币展现强韧势头
#
有消息称 Pump.fun 计划 40 亿估值发币，引发市场猜测
#
Solana 新代币发射平台 Boop.Fun 风头正劲
自从OpenAI发布gpt-oss，完全开源的模型，已经过去了19个多小时。
人们已经开始用它展现出疯狂的创造力和成果。
10个疯狂的例子：
1. 构建 gpt-oss 专业模式
基本上是 o3 Pro，但开源
8月6日 01:59
介绍 `gpt-oss Pro Mode`！
基本上是 o3 Pro，但适用于新的 OpenAI 开源模型 :)
Pro Mode 将多达 10 个实例的新的 OpenAI GPT-OSS 模型串联在一起，使其能够产生比单个实例更好的答案！
开源，链接在这里：
在 Macbook M4 Max 上运行 gpt-oss 120b
8月6日 03:03
在 Macbook M4 Max 上
gpt-oss 120b:
48 个 token/秒 高速
35 个 token/秒 正常
23 个 token/秒 低功耗
输出非常不错，新的选择模型
4. 由 gpt-oss 驱动的语音助手
8月6日 12:19
一个由gpt-oss驱动的语音代理。正在我的MacBook上本地运行。演示是在WiFi关闭的Waymo中录制的。
显然，我仍然沉迷于我的太空游戏语音AI。代码链接在下面。
对于对话式语音AI，您需要将gpt-oss的推理行为设置为“低”。（默认是“中”）。有关如何做到这一点的说明和您可以使用的jinja模板在仓库中。
演示视频中的LLM是gpt-oss的大型120B版本。当然，您可以使用更小的20B模型。但OpenAI在这里确实做了一件很酷的事情，设计了120B模型以在“仅仅”80GB的VRAM中运行。而且，llama.cpp mlx推理速度很快：约250毫秒TTFT。
在设备上运行大型模型感觉像是进入了AI的未来时光。
9. gpt-oss 与思考聊天应用
8月6日 05:24
openai gpt-oss 聊天应用程序，带有 thinking-ui（100% 本地）:
如果你喜欢这个帖子，
请关注我 @minchoi，并请收藏、点赞、评论和转发下面的第一条帖子，与朋友分享：
8月6日 22:28
自从OpenAI发布gpt-oss，完全开源的模型，已经过去了19个多小时。
人们已经开始用它展现出疯狂的创造力和成果。
10个疯狂的例子：
323.71K
热门
排行
收藏