AI Pulse
📡 X 信号

1.5万美元的设备才能跑本地AI?他偏不信

1.5万美元的设备才能跑本地AI?他偏不信

粉丝数刚破 1 万了。谢谢大家。

跑一个像样的本地 AI 模型,不该非得花 1.5 万美元买一套设备。我希望每个人都能跑得起自己预算内最强的模型,而且从手头已有的硬件开始。

这周的成果:
- 一台 2021 款 M1 Max,在 Linux 上靠一个电源管理修复,GPU 解码速度提升了 25–29%
- 笔记本外接 RTX 5060 Ti eGPU 跑 GPT-OSS 120B,25 tok/s
- Qwen3.8 Flash Next 在 DGX Spark 上跑到 89 tok/s
- Mac mini M6 上装 Omarchy,包含首次 GPU llama.cpp 运行

你们也看到了,我的 AI 硬件已经把家里的书房塞不下了!我正在把空房间改成 AI 实验室。每一台我能测的机器,都会变成一个预算档位,我会教你怎么用。

实验室还差两根 100G 线和一个 Thunderbolt 5 PCIe 扩展箱,不然 ConnectX-5 会被卡在 Thunderbolt 3 的速度上。如果你想帮忙,可以赞助我或者寄硬件过来:我会把收到的东西和它能解锁的能力都发出来。

老规矩,我所有的工作都是开源的,都在我的 GitHub 上。

本文由 AI 翻译自英文原帖,技术名词保留英文。

查看 X 原帖

订阅 AI Pulse

每天 08:00 · 12:30 · 18:30 · 23:50 更新