AI Pulse

PLaMo 3 Translate可离线翻译,原文不必发服务器

PLaMo 3 Translate可离线翻译,原文不必发服务器

翻译模型可以整个下载到自己机器上跑。Preferred Networks(pfnet)在 Hugging Face 上发布了 PLaMo 3 Translate,一组专门做翻译的大语言模型,不是通用聊天模型。模型文件下载到本地之后,翻译过程不需要联网,原文也不必发到别人的服务器上。

四档规模:0.8B、2B、8B、31B。每一档都有原始 BF16 版本,外加六种量化格式:FP8、W4A16、W4AFP8、NVFP4、GGUF、MLX-4bit。加起来一共七种变体。参数越少,模型越轻,对设备的要求也越低。

量化是压缩模型体积的常用手段,效果直接写在标注体积上。31B 的 W4A16 变体标注为 5B,NVFP4 变体标注为 18B;8B 的 W4A16 标注为 2B,NVFP4 标注为 5B。压缩幅度相当明显。

下载量上,GGUF 是四档里最高的格式:0.8B 版 14.4k,8B 版 10.4k,2B 版 10.1k,31B 版 4.87k。MLX-4bit 也有一批人下:0.8B 版 1.1k,8B 版 1.05k,2B 版 795,31B 版 590。原始 BF16 相对冷清,31B 和 8B 分别只有 429 和 452 次下载,2B 版 1.8k,0.8B 版 931。下载量说明不了质量好坏,但多数人挑的是 GGUF。

项目还在维护。整个模型集合 3 天前更新过,所有变体在大约 4 小时前又更新了一次。

任务类型标注为 Translation。只做翻译的话,这类专用小模型通常比通用大模型省资源。

语言对支持哪些、中文在不在其中,没有说。翻译质量和主流在线翻译服务比如何、量化后损失多少精度,同样没公布。许可证也没提。

关键事实

阅读原文
📚 相关主题 机器翻译

订阅 AI Pulse

每天 08:00 · 12:30 · 18:30 · 23:50 更新