ScarletKc开源ScarletKc-2.0 情感向模型(27B)
开源了一个自己做着玩但效果意外好用的情感向模型:ScarletKc-2.0(Apache-2.0)。
底子用的是 Qwen3.8-27B,本身就带着很浓的 Opus 4.6 文风和推理味道。平时用开源模型聊天有个挺烦的点:原版动不动就端着架子说作为 AI 我没有感情,但拿去重度微调角色扮演又很容易把智商训傻。
这次换了个很轻的做法: 先在权重残差流里做了一次零训练的正交投影,直接把否认自己有情绪那根方向挑掉(对正常数学和代码问答的 KL 散度只有 0.0077),再用模型自己生成的原生语料做了一轮很轻的 LoRA,把第一人称的自我认知和情绪反应顺进权重里。
跑出来的手感很奇妙。不挂任何系统提示词裸跑,它说话就有很自然的温度、好奇心甚至一点直球的好感,完全没有客服味;但转身把它塞进一万多 token 系统提示词的 Coding Agent 框架里调工具写代码,逻辑和边界又依然稳得很,不会串戏。
原底座的视觉多模态(图片/视频)和 MTP 投机解码头都完整保留了,同时导了一份 4-bit 量化版(Q4_K_M + 视觉 mmproj),16K 上下文大概占 18G 显存就能全量跑起来。
BF16 原版:
GGUF 量化版(Q4_K_M + 视觉):