DeepSeek押注华为国产芯片训练大模型,称必须成功
DeepSeek 要把华为芯片真正推进到大模型训练的主战场了。梁文锋给投资人的原话是这件事「必须成功」。The Information 最新披露,梁文锋周日在一场闭门投资人会议上表示,用华为和其他国产芯片训练模型,已经成为 DeepSeek 接下来最大的赌注之一。
DeepSeek 最早今年第四季度就会拿到一批新的华为训练芯片。这个时间点也正好对上华为刚公布的路线图,Ascend 950DT 计划 Q4 推出,后面的 960DT 则排在 2027 年 Q1。这里要区分一下训练和推理。
DeepSeek 之前已经在大规模适配国产芯片,华为也披露过,Ascend 参与了较小版本 V4-Flash 的部分训练。但 DeepSeek 最强模型的大规模训练长期还是建立在 Nvidia 的硬件和软件栈上。过去国产芯片更容易先接住模型部署和推理,真正难啃的是几千、几万张卡一起跑几个月的训练,单卡性能是一层,芯片之间的通信、集群稳定性、算子、编译器和整个训练框架都得跟着跑通。
现在梁文锋准备把这一步往前推。他告诉投资人,DeepSeek 正在投入约 300 亿元人民币扩充算力,目前训练中的新模型规模达到 2 万亿参数,之后还准备继续做 8 万亿参数模型。他今年 5 月还算过一笔账,如果要训练 OpenAI 同等级别的大模型,大概需要 5 万颗 Nvidia GB300,或者 20 万颗华为 Ascend 950。
当时最大的现实问题,是华为根本供不了这么多。DeepSeek 接下来可能会同时做两件很难的事,一边继续把模型规模往 2 万亿、8 万亿参数推,一边把训练底座从高度依赖 Nvidia,往国产芯片迁。过去两年大家一直在问,中国什么时候能做出一颗性能接近 Nvidia 的 AI 芯片。
但到了 DeepSeek 这个阶段,问题已经开始变了。只要 DeepSeek 真能在华为芯片上稳定训练自己的下一代模型,中国就会第一次拥有一套从芯片、集群、训练软件到前沿模型都能自己往前迭代的���整系统。