synchopate 开源 llama-modchip，64G 内存无显卡跑 284B 模型

卧槽！这帮极客把 CPU 压榨成神仙了！ 一张显卡都不要，64G 内存硬跑 284B 大模型！

大模型圈刚杀出一个逆天级的开源怪物：synchopate/llama-modchip。

以往跑 2840 亿参数的 DeepSeek-V4，少说得几台八卡 H100 服务器； 结果这个项目直接掀翻桌子：一张独立显卡都不需要，靠普通家用 CPU 和 64GB 电脑内存，把 284B 的巨无霸塞了进去，而且跑得飞起！

明子对照官方测试数据核对了它的恐怖参数：

· 零 GPU 纯内存硬抗：完全不用买昂贵显卡，把 284B 深度求索模型压制到了 56.9GB 显存内，普通 64G 内存台式机直接吃下，全程不触发虚拟内存交换

· 纯 CPU 速度居然完全可用：依靠向量指令集优化，跑 284B 模型的生成速度稳定在 9 到 14 tok/s，投机采样最高飙到 25 tok/s，余弦相似度保持 99.15%

· 跑 30B 模型直接起飞：如果是 30B 级别的 MoE 模型，体积只有 13.3GB，连 16G 内存的轻薄本都能跑，纯 CPU 甚至能跑出每秒 111 个 Token 的狂暴速度

· 开箱即用全家桶：自带免依赖的暗黑 Web UI 和终端交互，甚至原生支持直接挂载给 Claude Code 当本地后端

不过想上车的兄弟，这两个限制先记好：

· 必须有实打实的 64GB 物理内存，低于这个容量会频繁触发 Swap 交换导致卡死

· 它是基于定制补丁版的 llama.cpp，官方标准版 Ollama 无法直接认这种特种量化格式，需要用它自带的脚本拉起

显卡厂商看到这个项目估计汗流浃背了，纯靠 CPU 居然能把 284B 驯服到这种地步。

你的电脑现在插了多少 G 内存？敢不敢把这只 284B 的庞然大物拖下来测一圈？

👉 开源仓库地址：

#AI #开源 #DeepSeek #大模型 #硬件极客