Tontaube V1.1 发布:1.8GB 语音模型,普通锐龙 CPU 就能跑
一个 1.8GB 的本地 AI 模型现在可以在 Ryzen CPU 上克隆声音并朗读整本有声书。无需 GPU。👀
这就是 TTS 语音模型 Tontaube V1.1。基于 Qwen3 构建,以下是参数……
🧠 2.9B 文本转语音模型
💾 1.8GB 4-bit GPTQ 权重
🎙️ 从 5-60 秒音频中克隆声音
📚 长篇有声书生成
🎛️ 控制语速、音调、停顿、语调和发音
性能数据
🔴 Ryzen 9 5900X → 约 1× 实时速度
🟢 RTX 3090 → 6-7× 实时速度
🟢 RTX 5090 → 约 13× 实时速度(单次请求)
🔥 RTX 5090 → 21-23× 实时速度(批量处理)
4-bit 模型加载约需 4GB 显存,长文本峰值使用约 6.5GB。
⚙️ 自带推理服务器 + AVX2 CPU 内核
💻 Linux / Windows 通过 WSL2
🔓 开放权重,自定义社区许可
我们努力尝试将更大的 LLM 部署到硬件上,但看看那些也开始能在普通桌面 CPU 上运行的 AI 能力吧。
🎯 你可以用自己的声音把整本书变成有声书。在本地。
本文由 AI 翻译自英文原帖,技术名词保留英文。
查看 X 原帖