零成本本地运行AI的10个GitHub仓库

如果你想用 0 成本成为本地运行 AI 的 top 1%，从这 10 个 GitHub 仓库开始吧。

1. llama.cpp（12.8 万星）精简的 C/C++ 核心，能让模型在 CPU 和 GPU 上都快速运行。

2. Jan（4.44 万星）免费的 ChatGPT 替代方案，所有内容都在你本地桌面运行。

3. Ollama（18.1 万星）只需一条命令就能拉取并运行开源大语言模型，是进入本地 AI 领域最简单的方式。

4. LocalAI（4.9 万星）可以启动一个 OpenAI 风格的 API，指向你自有硬件上的模型。

5. ComfyUI（13.2 万星）可拖拽画布，用来搭建你自己的图像生成流水线。

6. mlx-lm（6900 星）直接在 Apple Silicon Mac 上训练和运行模型。

7. text-generation-webui（4.76 万星）浏览器仪表板，用来加载各类本地文本模型并与之对话。

8. whisper.cpp（5.35 万星）在你自己的机器上把语音转成文本，由 OpenAI 的 Whisper 提供支持。

9. exo（4.73 万星）可以把多台设备拼接成一个集群，让你能够运行大模型。

10. GPT4All（7.74 万星）开箱即用的桌面应用，用来和本地模型聊天，不需要 GPU。