零成本本地部署无限制Gemma 4并接入Claude Code实操指南

🚨 在你的显卡上免费、零成本运行无限制本地 AI 的实操步骤！👌

🛑 以下是详细步骤，用于运行本地无限制的 Gemma 4 模型，并将其连接到 Claude Code，且不会将任何数据泄露到你的设备之外，也无需账户或 API 密钥：

1) 安装 Ollama：确保安装最新版本，以支持 Anthropic API 和 Gemma 4 模型：
curl -fsSL | sh

2) 下载指定模型：使用这个采用 Heretic 技术修改的版本，在保持性能的同时将拒绝率从 (99/100 👈 0/100) 降低：
ollama pull igorls/gemma-4-12B-it-heretic-GGUF

3) 关闭思考模式（关键步骤）：关闭思考模式可以防止 token 消耗过高和回答中断：
ollama run igorls/gemma-4-12B-it-heretic-GGUF /set nothink（使用 API 时，在请求中设置 "think": false）。

4) 将其连接到 Claude Code（可选）：
ollama launch claude --model igorls/gemma-4-12B-it-heretic-GGUF

• 重要提示：通过命令 OLLAMA_CONTEXT_LENGTH=32768 ollama serve 将上下文大小提升至 32768，以免丢失工具指令。

💻 设备基本要求：
• 显存 (VRAM)：8 至 12 GB。
• 存储空间：Q4 版本需 8 GB，Q8 版本需 13 GB。

解除限制并不意味着提升智能：模型仍为 12B 参数，对于复杂的编程任务，建议使用 Qwen3.5 或 GLM-4.7-Flash。

📌 将此推文收藏，以便在操作时参考 🔖👇

如果你对技术和人工智能充满热情，欢迎加入我们。👇 从这里加入订阅者社区：