8GB显存笔记本微调Qwen3.5-4B,网页可用率从35%升到53%
模型简介
我微调了 Qwen3.5-4B,让它把一句普通请求(例如“给我的咖啡店做个落地页”“给安全专业学生做个作品集”)转成一个自包含的 HTML 页面:比基座 Qwen 更有设计品味,也更少出错。它会先短暂思考(约 400 tokens),然后写出页面。这里“自包含”指单文件页面,CSS/JS 都内联在 HTML 里,方便直接打开和部署。
相同提示词下的对比
同一提示词下,基座模型与本模型的对比如前两张图所示;第三张图展示了它生成的更多页面,未做编辑。
评测数据
评测用了 74 个训练中从未见过的提示词,每个提示词生成 2 个页面;每个页面都在无头浏览器中打开,并检查 JS 错误、加载失败和死按钮(点击无反应)。结果如下:
| Qwen3.5-4B | Web-Designer (Q4_K_M) | |
|---|---|---|
| 能正常工作的页面 | 35% | 53% |
| 完整生成/完成的页面 | 75% | 95% |
这里“能正常工作”是浏览器检查通过,“完整生成”是页面文件完整收尾。
训练数据与配置
训练集包含 1,443 个“提示词到页面”的示例。提示词来自 LMArena 的 WebDev arena 真实网页设计请求,以及我自己的请求;回答由 DeepSeek V4.1 Flash 生成,包含简短设计计划和页面。每个页面在进入训练集前都经过浏览器检查。这样做很重要:先把在浏览器里报错、加载失败或按钮失效的页面剔除,能避免模型把坏页面当成好样本学进去。
训练使用 QLoRA(Quantized Low-Rank Adaptation,量化低秩适配),rank 16,2 epochs,序列长度 4,096 tokens,在单张 RTX 4060 Laptop(8 GB 显存)上完成。
本地运行
用 llama-server 加载 GGUF 模型:
llama-server -m Qwen3.5-4B-Web-Designer-Q4_K_M.gguf --jinja -c 10240 -ngl 99
采样参数建议设为 temperature 0.7、top-p 0.95、top-k 20。--jinja 启用模型的聊天模板,-c 10240 设置上下文长度,-ngl 99 尽量把层放到 GPU 上。这些参数影响生成页面的稳定性和多样性。
模型与示例资源
- 模型与 GGUF:https://huggingface.co/banyohavlusu23/Qwen3.5-4B-Web-Designer
- 示例画廊(148 个页面,包括失败页面):https://huggingface.co/spaces/banyohavlusu23/Qwen3.5-4B-Web-Designer-Gallery
许可为 Apache-2.0。欢迎反馈,也欢迎分享你生成的最好(或最差)页面。
小插曲:我注意到 ccore 差不多同时发布了 Web-Coder!我们是独立在做这些工作,所以这纯属有趣的巧合。他的工作看起来很有意思,我尤其期待他将分享的设计数据集。