gpt-oss-120b 是一个 1200 亿参数的开源大语言模型，在本地 AI 运行平台 Lemonade 中作为支持模型被提及。它代表了当前开源社区在超大参数规模模型上的重要进展，能够在个人设备上运行，体现了本地 AI 运行时的能力边界和隐私优先的部署理念。[1]
Lemonade 平台对 gpt-oss-120b 的支持体现在多模态任务的一站式处理中。该模型不仅可用于 LLM 对话，还可以与图像生成、语音合成与转录等任务协同，通过统一的 OpenAI 兼容 API 调用。Lemonade 的核心服务仅 2MB，基于原生 C++ 构建，使得 gpt-oss-120b 这样的百亿级参数模型能够在搭载 GPU 或 NPU 的普通 PC 上快速部署。[1][3]
在硬件兼容性方面，gpt-oss-120b 得益于 Lemonade 的自动硬件适配技术，能够自动识别并使用 GPU 与 NPU 环境，同时兼容 llama.cpp、Ryzen AI SW 和 FastFlowLM 等多个推理引擎。这意味着用户可以在 Windows、Linux 和 macOS（测试版）上运行该模型，无需依赖云端服务。[3]
值得注意的是，Unsloth 与 NVIDIA 的合作优化对 GPT-OSS 系列模型（包括 gpt-oss-120b）的训练效率有显著提升。针对混合专家模型（MoE）架构，Unsloth 通过使用 argsort 和 bincount 替代原有的专家排序计数方法，使 GPT-OSS 训练速度提升大约 10% 到 15%，在前向传播和反向传播环节分别提升 23% 和 13%。这进一步降低了在本地硬件上微调或训练此类大模型的门槛。[14]
此外，120B 参数级别的大模型能够在笔记本上训练，这得益于 NVIDIA 和 Microsoft 合作的 RTX Spark 笔记本，其 128GB 统一内存为本地训练提供了可能。gpt-oss-120b 作为该量级的代表模型，正受益于这种硬件进步，让更多人有机会在个人设备上探索大模型的能力。[2]