个人家用本地AI组合已经初具生产力
2026-08 家用本地AI组合推荐 显卡机:3090 * 2 或 4090 *2 或 4090-mod-48G 或 5090 运行 qwen-3.8-27B 共享内存机:DGX spark * 2 运行 DeepSeek-V4-Flash-0731 agent: Pi / deepseek harness 云端补充: zcode + glm-5.3 - 处理日常办公杂事类。(强力党可以尝试部署 glm-5.3) codex + gpt-5.6-sol - 处理大型编程 --- 结合最近的一些产品, 我认为 个人AI,已经初具生产力了。首先是,跑分追上 opus-4.6 的 qwen-3.8-27B, 现在生态十分繁荣,搞量化的,搞投机解码加速的,搞去审查的,一个赛一个牛,推陈出新,你快,我更快。
搞评测的,也给出了很多demo,前端开发和opus-4.6级别相近。部署:3090 起 接着是,DeepSeek-V4-Flash-0731 ,半个月前的惊艳之作,小巧的参数量,带来高速的吞吐速度,性能超过上一个版本的pro,在老实听话干活的agent低要求生产领域是一个杰作。部署:首选 DGX spark * 2 再来是,glm-5.3,和前代同一个底座,后训练,又推进了一大截。
思维和逻辑能力非常舒适。部署:本地党难度较大,考虑优先云端 api --- 结合两篇论文实验: 一、Faraday 。Inherent Labs 使用经过 long-horizon RL 训练的 qwen-3.6-27B 参数 AI Scientist,并让它把 GPT-5.5 Codex 作为工具使用。
在任务跑分上超过了 gpt 和 claude 作为主脑工作。二、《AI4AI at Test-Time》。强模型充当 builder model,自动修改 Harness,以 test-time scaffolding 的方式增强弱模型。
三、deepseek harness。--- 那么上述 model 和 agent 方法组合起来。以后家用AI中心, 一套显卡机,运行dense模型, qwen-3.8-27B 作为主脑。
一套共享内存主机,运行moe模型,DeepSeek-V4-Flash-0731 充当执行者。deepseek harness /pi 充当外壳, 然后运用论文的方法,将大型任务给拆解掉, dense 模型规划, moe 模型执行。dense模型建造harness,提高moe模型的任务水平。
--- 当然也不是所有事情都可以本地一套干完的, 云端服务的低廉实惠也是一个不可忽视的因素。在知识广度上和任务的廉价性上,还可以进行补充, 首先,性能最好的claude系排除,在封号、安全围栏、水印、降智、api限流的情况,作为生产力,只算做备份和备选。其次,低端任务,不涉及隐私的,产品体验和易用性上,国内用户zcode+glm-5.3 够用了。
最后, 高端任务,codex+gpt-5.6-sol也是十分给力的, 最近一个月从几百万涨到 1500万用户量,也是大家用脚投票。而codex 和 zcode 的界面几乎相同,在使用手感上,像是一个系列的,也算是学习迁移成本微乎其微了。