通义千问开源Qwen3.8-Flash，预览Qwen4架构

⚡Qwen3.8-Flash 现已开放权重下载，它是一个多模态 MoE 模型，也是 Qwen4 架构的早期预览版。

正式生产版 Qwen3.8-Flash 很快会通过 QwenCloud API 开放，定价仅为输入令牌每1M 0.16美元，输出令牌每1M 0.47美元。

该模型总参数 125B + 51B N-gram 嵌入，每个令牌仅激活 6B 参数，拥有无可匹敌的成本效益。

更新内容： 🥳
- 新一代架构：GDN + QSA 混合注意力、门控残差、N-gram 嵌入与 Muon 优化器，是 Qwen4 所用架构的前身。
- 训练与推理成本大幅降低：训练成本仅为 Qwen3.7-Plus 的 1/9，同时全场景性能均超过 Qwen3.7-Plus，在编码和办公任务上的提升尤为显著。
- 性能强劲：在 DeepSWE 1.1 上得分 58.7，SWE-bench Pro 上得分 62.5，CoWorkBench 上得分 73.9，AndroidWorld 上得分 84.5，MathVision（带 CI）上得分 95.7。
- 原生支持 262K 上下文，可通过 YaRN 扩展至 1M。

我们同时也发布了 Qwen3.8-Flash-Next 的权重，让社区可以提前一睹我们为 Qwen4 探索的新架构。🚀

我们迫不及待想看到你用 Qwen3.8-Flash 创造出什么！👀👇
- 博客：
- 技术报告：
- Hugging Face：
- ModelScope：