PromptDeck:最多4个本地及云端模型同时回答同一提示词
PromptDeck 是开源桌面应用,用 Tauri 和 React 写的。它把模型对比做成了一个具体操作:同一提示词最多发给 4 个模型,Ollama、LM Studio、llama.cpp 都能接。输出在同一个窗口里实时生成,不用来回切换。
v1.1 加了云提供商。OpenRouter、Groq、DeepSeek、Together、OpenAI、xAI、Kimi、NVIDIA NIM、Ollama Cloud、Gemini 都在名单里。自定义端点也能填。每个提供商都可以单独选模型,本地与云端模型可以放进同一次运行里一起比。
对比看两个数据:TPS(每秒生成的 token 数)和 TTFT(首个 token 的等待时间),都带图表。服务器不报用量时,TPS 会带一个波浪号,表示这是估算值。测试套件能把 1 到 10 条提示词发给多个模型,跑完生成记分板,记录每个模型的获胜次数。记分板按什么定胜负,目前没有说明。
测试结果可以长期攒。用户能给回答投票,排行榜会保留下来。差异视图能看清两份回答差在哪里。历史记录存在本地 SQLite,支持导出 PDF、Markdown 或 CSV。界面有浅色、深色、AMOLED 三种主题,语言有英语、德语和波斯语。Windows、macOS、Linux 都有编译好的安装包,也能从源码直接运行。项目欢迎提交 issue 和 PR,维护者为新手留了一组 good first issue。
隐私处理得比较干净。所有功能本地运行,没有遥测;不显式添加云 API 密钥,就不会有云调用。不过一旦接云,有两件事还没跟上:API 密钥存在本地存储里,迁移到系统密钥链还在路线图上。云运行的成本跟踪还没做,何时上线也没说明。只用本地模型的人,数据都留在自己设备上;打算混用云端模型的人,密钥安全和费用追踪这两处暂时没有完整方案。