3090带不动397B?团队放出小号版本
Intern-S2-397B是多模态模型,能推理、能编程,也做科学智能体。发布方是Intern Large Models。模型页和集合页都挂在Hugging Face上。vLLM当天宣布Day-0支持——拿到模型,当天就能跑。
评论区先聊的不是模型能力,而是硬件门槛。一位用户说自己的3090带不动,问有没有API或者别的路子。另一位用户注意到,团队放出了不止一个尺寸的版本。真要跑不动,就从小号版本开始。
挑剔的声音也有。有评论嫌对比对象用了旧模型,要测就测最新竞品。还有人关心后续微调,问的是:团队之前微调过Qwen 3.5B,新版本会不会也有类似工作。提问者还提到,小尺寸模型世界知识减少,27B版本也缺MoE结构。
公开发布、推理引擎当天跟进、多个尺寸并行。这套组合,把大模型的使用门槛往下压了一截。只是还有两个问题没有答案:跑397B要多强的硬件,API的路子通不通。