AI Pulse
📡 X 信号

16GB无独显电脑跑通Ming-Image-0.1-Design 单张耗时37分钟

16GB无独显电脑跑通Ming-Image-0.1-Design 单张耗时37分钟

Ming-Image-0.1-Design 标的是 6B,我拿一台 16GB 内存、没有独显的电脑把它跑通了:1024×1024 一张图,37 分钟。

先说怎么选:
· 想确认自己电脑能不能跑,或者要离线出几张图:我这台 16GB 无独显(AMD 核显)能跑通。开跑前关掉大程序,接受 37 分钟一张
· 要反复改稿、一天出几十张:直接用 API。同样 1024 尺寸,OpenRouter 上 29 秒出图,我测的那两天还是 0 元
· 想在本地日常用:我这台机器不合适。有独显的话,估显存别按 6B 算,量化后的权重一共约 17GB。独显上能跑多快,我没测

下载之前先知道这件事:6B 只算扩散主干,12.3GB。官方仓库里还有一个 34GB 的 mllm(文本模型是 Ling-mini-2.0,16B 总参数,外加一个视觉编码器)和一个 6.2GB 的 connector,再加 VAE 等小文件,整套 52.9GB。官方写的验证配置是一张 80GB 显卡。

我的机器:Ryzen 5 5600G 核显,16GB 内存,NVMe 固态。官方 README 写的是要 CUDA 版 PyTorch,这台用不上。我走的路是这样:
· stable-diffusion.cpp 的 Windows Vulkan 版,9 月 27 日合并了 Ming-Image Design 支持
· 社区转的 GGUF:主干 Q8 6.5GB,文本编码器 Q4 10.5GB,再加 VAE,一共 17.3GB,比物理内存还大
· 关键参数 --params-backend te=disk,diffusion=disk:权重从硬盘按需读进来,用完就放掉

同一条提示词,1024、12 步,跑了 2 次:
· 总耗时 37.1 和 36.6 分钟。每步 3 分钟出头,文本编码不到半分钟,解码约 2 分钟。慢在核显计算,不在读盘:整个采样阶段从硬盘加载权重只用了约 24 秒
· 核显没有独立显存,用的是共享内存,峰值约 7.1GB。sd-cli 进程内存峰值 9.9GB,系统可用内存最低剩 120MB
· 第一次试跑没关微信和浏览器,可用内存掉到 40MB,提交内存冲到 31.5GB,系统上限是 33–34GB

踩的两个坑:
1. te=disk 并不是只占一段内存。文本编码期间,大约 7GB 会一直压在共享内存里,编完才一次放掉。开跑前先把大程序关了。
2. 日志里会反复刷 Failed to allocate pinned memory。我翻了 ggml 源码,这里失败后会退回普通内存继续跑,图照样能出来。

文字渲染是它主打的能力。同一条提示词,本地 2 张,加 OpenRouter 上的 API 5 张,一共 7 张:
· 标题、型号、带小数点的数字、中英混排,7 张全部逐字正确
· 只有「编码器」的「码」7 张全错,错成的字还不固定,有编、诸、弱、诺……。API 上一样错,所以不是本地量化才有的问题
· 本地有 1 张多出一段乱码,「52.9GB」也重复了一次。API 的 5 张没有出现这种情况

估下载量和显存,要看整套组件的总体积,别只看标题里的参数量。

照着跑需要 4 个文件和 1 个程序:
· 程序:stable-diffusion.cpp 的 release master-945,下 win-vulkan 包
· 主干和文本编码器: 里的 ming_image_0.1_design-Q8_0.gguf、ming_ling_mini_2.0-Q4_K.gguf
· VAE: 里 vae/ming_image_vae_bf16.safetensors
· tokenizer:官方仓库 mllm/tokenizer.json

命令:
sd-cli.exe --diffusion-model ming_image_0.1_design-Q8_0.gguf --llm ming_ling_mini_2.0-Q4_K.gguf --vae ming_image_vae_bf16.safetensors --tokenizer tokenizer.json -p “你的提示词” --width 1024 --height 1024 --steps 12 --cfg-scale 1 --sampling-method euler --params-backend te=disk,diffusion=disk --vae-tiling

模型:

API:

第 1 张:本地出图,16GB 内存、无独显,1024×1024,12 步,36.6 分钟

第 2 张:本地第二次,37.1 分钟。Connector 后面多了一段乱码,52.9GB 重复了一次

第 3 张:同一条提示词 7 张图,「编码器」那一段的裁切对比

第 4 张:OpenRouter API,同一条提示词,1024×1024,29 秒

查看 X 原帖

订阅 AI Pulse

每天 08:00 · 12:30 · 18:30 · 23:50 更新