Ant开源Ling-3.0-flash-Sante 医疗专用模型权重(124B 总参数)
这可能是最重要的医疗专用本地 AI 权重发布之一。蚂蚁开源了 Ling-3.0-flash-Sante 的权重。模型本身不算新,Sante 从 9 月起就已通过 API 提供,但……
新变化在于 👉 你现在可以把这个医疗模型带回家了。
参数 🧠 总参数量 124B ⚡ 每个 token 仅激活约 5.1B 📚 256K 上下文 🩺 医疗专用 🔎 深度研究 🤖 多智能体协作 🔧 工具调用
它基于与已在 llama.cpp 中运行的 Ling-3.0-flash 相同的架构。
供参考,基础版 Ling-3.0-flash 的 GGUF 已有:Q4_K_M → 约 77GB IQ3 → 约 54GB IQ2 → 约 40–46GB IQ1 → 约 28–31GB
⚠️ 以上是基础版 Ling-3.0-flash 的量化版本。我尚未找到官方的 Sante GGUF。
但现在 Sante 权重已可下载,它将成为以下设备的本地模型:🖥️ 96/128GB 工作站 🍎 大内存 Apple Silicon ⚡ DGX/RTX Spark 级统一内存 🔗 多 GPU 本地系统
而医疗正是本地 AI 能发挥作用的领域之一:私有文档 + 研究 + 智能体工作流可以留在你自己掌控的硬件上,而不是被发送到云端 API。
蚂蚁还表示,新版本在医疗领域取得了显著提升,包括 HealthBench Professional 45.73 → 54.29 AFUMED ComplexReasoning 65.22 → 76.92 链接见 ALT
本文由 AI 翻译自英文原帖,技术名词保留英文。
查看 X 原帖