AI Pulse

开源排行榜:32GB内存Mac能跑评分比肩GPT-5的模型

我构建了一个开源AI排行榜,网址是 whatmodel.sh。它可以帮助你快速了解自己的机器能本地运行哪些模型,并提供排名和运行命令。

使用步骤

1. 输入你的内存(RAM)和显卡(GPU)信息——这是确定模型能否运行的基础。
2. 查看你可以在本地运行的模型——包括它的综合排名和对应的运行命令。
3. 用同一评分与API模型进行比较——了解本地模型和云端API模型之间的差距。

这个工具让我意识到,一台32GB内存的Mac现在可以运行一个与GPT-5评分相当的模型,完全本地运行且免费(例如 Qwen3.8 27B 的4-bit量化版本)。

评分方法与开源数据

每个模型都会根据19,731个已发布的基准测试结果得到一个综合评分,每条结果都链接到来源。评分方法见 whatmodel.sh/method,数据、评分代码和基准测试脚本均已开源:github.com/jakemanger/whatmodel。

在终端中使用

你也可以直接在终端运行以下命令,快速获取结果:

curl whatmodel.sh

如何贡献

如果你想参与贡献,可以运行基准测试脚本收集真实世界的token/秒(tok/s)数据,也可以提交新的模型和带来源的基准测试分数到GitHub仓库。

阅读原文
📚 相关主题 开源大语言模型

订阅 AI Pulse

每天 08:00 · 12:30 · 18:30 · 23:50 更新