社区开发者发布Uncensored GSQ-RCO GGUF 模型(12GB)
😱也太狠了!把DeepSeek V4.1 Flash 1017 拒答率直接打到0%!12GB显卡就能跑无审查巨兽!
Uncensored GSQ-RCO GGUF 直接把拒答从 85%→0%,连思考模式也是0,能力几乎无损,763B MoE 模型,普通家用配置就能本地跑,这波是真把“对齐”按在地上摩擦。
核心要点:
🔹拒答清零:JailbreakBench / XSTest / Thinking High 全部从 85%+ 降到 0.0%,连思考阶段也不再自我审查。
🔹能力几乎不变:MMLU 偏差 ~1 分以内,GPQA-Diamond 83.3% 持平,AIME 等推理基本无掉点(KL≈0.02)。
🔹硬件门槛极低:单卡 12GB 显存 + 64GB 内存 + 高速 SSD(Strata 把 Engram 表流式从硬盘加载)。
🔹量化三档可选:IQ1_M(121GB / 1.75bpw)、IQ2_XXS(138GB)、IQ2_XS(155GB),专家权重保持原版不变,只改 dense residual writers。
🔹方法干净:abliteration(强度2.0)只投影掉拒答方向,不是粗暴微调,MIT 协议可商用。
上手步骤:
1️⃣装 Strata:git clone 并按官方文档编译(目前 llama.cpp 还不支持独立 Engram 文件)。
2️⃣下载模型:hf download AtomicChat/DeepSeek-V4.1-Flash-1017-Uncensored-GSQ-RCO-GGUF --include "*IQ2_XXS*"
3️⃣下载共享 Engram 文件(一次即可):从 ISTA-DASLab 仓库拉 *Engram*。
4️⃣启动:strata launch --model-path .../xxx.gguf,把 Engram 放在高速 SSD 上。
5️⃣直接用原版模板和采样参数(temp=1.0, top_p=1.0)即可,拒答消失。
详见仓库:
#DeepSeek #UncensoredAI #LocalLLM #GGUF #Abliteration #梁文峰 #大胖鱼