开源排行榜:32GB内存Mac能跑评分比肩GPT-5的模型
我构建了一个开源AI排行榜,网址是 whatmodel.sh。它可以帮助你快速了解自己的机器能本地运行哪些模型,并提供排名和运行命令。
使用步骤
1. 输入你的内存(RAM)和显卡(GPU)信息——这是确定模型能否运行的基础。
2. 查看你可以在本地运行的模型——包括它的综合排名和对应的运行命令。
3. 用同一评分与API模型进行比较——了解本地模型和云端API模型之间的差距。
这个工具让我意识到,一台32GB内存的Mac现在可以运行一个与GPT-5评分相当的模型,完全本地运行且免费(例如 Qwen3.8 27B 的4-bit量化版本)。
评分方法与开源数据
每个模型都会根据19,731个已发布的基准测试结果得到一个综合评分,每条结果都链接到来源。评分方法见 whatmodel.sh/method,数据、评分代码和基准测试脚本均已开源:github.com/jakemanger/whatmodel。
在终端中使用
你也可以直接在终端运行以下命令,快速获取结果:
curl whatmodel.sh
如何贡献
如果你想参与贡献,可以运行基准测试脚本收集真实世界的token/秒(tok/s)数据,也可以提交新的模型和带来源的基准测试分数到GitHub仓库。