AI Pulse
📡 X 信号

社区开发者发布Uncensored GSQ-RCO GGUF 模型(12GB)

社区开发者发布Uncensored GSQ-RCO GGUF 模型(12GB)

😱也太狠了!把DeepSeek V4.1 Flash 1017 拒答率直接打到0%!12GB显卡就能跑无审查巨兽!

Uncensored GSQ-RCO GGUF 直接把拒答从 85%→0%,连思考模式也是0,能力几乎无损,763B MoE 模型,普通家用配置就能本地跑,这波是真把“对齐”按在地上摩擦。

核心要点:

🔹拒答清零:JailbreakBench / XSTest / Thinking High 全部从 85%+ 降到 0.0%,连思考阶段也不再自我审查。

🔹能力几乎不变:MMLU 偏差 ~1 分以内,GPQA-Diamond 83.3% 持平,AIME 等推理基本无掉点(KL≈0.02)。

🔹硬件门槛极低:单卡 12GB 显存 + 64GB 内存 + 高速 SSD(Strata 把 Engram 表流式从硬盘加载)。

🔹量化三档可选:IQ1_M(121GB / 1.75bpw)、IQ2_XXS(138GB)、IQ2_XS(155GB),专家权重保持原版不变,只改 dense residual writers。

🔹方法干净:abliteration(强度2.0)只投影掉拒答方向,不是粗暴微调,MIT 协议可商用。

上手步骤:

1️⃣装 Strata:git clone 并按官方文档编译(目前 llama.cpp 还不支持独立 Engram 文件)。

2️⃣下载模型:hf download AtomicChat/DeepSeek-V4.1-Flash-1017-Uncensored-GSQ-RCO-GGUF --include "*IQ2_XXS*"

3️⃣下载共享 Engram 文件(一次即可):从 ISTA-DASLab 仓库拉 *Engram*。

4️⃣启动:strata launch --model-path .../xxx.gguf,把 Engram 放在高速 SSD 上。

5️⃣直接用原版模板和采样参数(temp=1.0, top_p=1.0)即可,拒答消失。

详见仓库:

#DeepSeek #UncensoredAI #LocalLLM #GGUF #Abliteration #梁文峰 #大胖鱼

查看 X 原帖

订阅 AI Pulse

每天 08:00 · 12:30 · 18:30 · 23:50 更新