社区开发者开源Qwen3.5-9B 无审查推理模型(8GB)
🔥无敌了!8GB 显卡就能跑!DeepSeek-V4-Pro 蒸馏 + Qwen3.5 无审查 9B 推理核弹!
Q4_K_M 量化约 5.6GB,8GB 显卡(4060/3060)可流畅跑,12GB 更从容;4GB 低位量化也能勉强体验。
DeepSeek-V4-Pro Max 推理能力蒸馏进 Qwen3.5-9B,再用 Heretic 去审查,拒答从 100/100 降至 3/100,GSM8K ~94.5%、MMLU-Pro 平均 90.53%,本地可跑的无审查推理模型。
核心亮点:
🔹蒸馏自 DeepSeek-V4-Pro(约 25 万 STEM/数学轨迹)
🔹Unsloth 优化 + Apache 2.0
🔹支持工具调用、结构化输出
🔹GGUF 本地友好,Ollama / LM Studio / llama.cpp 即开即用
3 步上手
1️⃣下载 Q4_K_M(或 IQ4)GGUF
2️⃣用 Ollama / LM Studio / llama.cpp 加载
3️⃣直接开聊(推荐先测数学/推理题)
8GB 显卡的直接冲!测试结果甩出来!
🔗 模型:
🔗 推荐 GGUF:
#DeepSeek #Qwen #本地大模型 #无审查 #OpenSource #梁文峰 #阿里巴巴