开发者测试DGX Spark十天后取消大模型订阅转用本地模型
我使用 DGX spark 十天后,我的真实实验体验——我暂时取消了我的顶级模型订阅。我之前每月花了 300 多美元:200 美元在 Claude Code,100 美元在 ChatGPT。
现在我换成了 20 美元的 ChatGPT 和 20 美元的 Cursor 订阅。我在 hermes agent 里的主模型是本地模型。目前我在测试把 Ornith 1.5 作为我的主模型,因为我喜欢它的速度和还不错的智能水平。
对于复杂任务,我仍然觉得需要顶级模型。我就是更信任它们。我目前在测试 Grok 4.6,我还挺喜欢它的。另一个选择是,我会用 luna max 处理需要在我的移动应用上运行的任务。
我用本地模型更新我的 G-brain,也就是我的第二大脑,我现在更重视隐私了:)
我很喜欢 Qwen 3.8 27b,但它目前在 spark 上太慢了。我未来会加装 RTX 5090,或者再买一台 spark。(我可能上瘾了哈哈)
我还需要多测试 Deepseek flash 0731,但我不确定单台 spark 能不能扛得住。
我在想有没有量化模型的基准测试,因为我总有种感觉:我们看到 Artificial analysis 上的智能分数就很兴奋,但实际用的都是量化模型,我很好奇它的智能水平还和原来一样吗。
我真的很喜欢本地 AI 社区,还有他们在做的各种实验,同时我也用顶级模型处理重负载工作。我试着同时享受两个世界的好处:)
本文由 AI 翻译自英文原帖,技术名词保留英文。
查看 X 原帖