更大参数模型能直接在普通电脑本地跑AI了
有人打开电脑做工作方案,需要整理素材、分析数据、生成草稿,以前这些步骤要么得打开好几个付费云端AI工具,要么得花钱买高端硬件才能跑本地模型。
最近Liquid AI发布了LFM2.5家族新成员LFM2.5-24B-A2B,这是目前这个系列里参数规模最大的模型。它是专门为笔记本电脑和个人电脑设计的高效本地模型,可以在主流的AI代理框架里处理多步骤任务。
这个模型总参数规模达到240亿,不过每次处理token(AI处理文本的基本单位)时只有20亿参数处于激活状态。它支持最长131K的上下文长度,拥有128K词表,训练数据量达到33万亿token,性能可以和参数规模比它大50%左右的Qwen3.6-35B-A3B相比。
不同于把大模型压缩后放到本地设备的做法,Liquid AI的LFM系列从架构设计开始,就针对轻量运行、快速响应和硬件适配做了优化。这次的新模型沿用这个思路,还用上了MoE(混合专家模型)架构:把标准计算层拆成多个专家子网络,每次只有少数专家参与计算,所以比相同总参数的传统模型运算量小很多。
@liquidai 认为:它是推理模型,很容易做微调定制。
@ramin_m_h 认为:这个模型非常适合在PC、笔记本电脑上针对特定场景做定制,用在云端也能大幅降低成本。
对于普通用户来说,这个变化意味着你不用再为云端AI工具付年费,也不用花大价钱买高端显卡,就能在自己的电脑上跑能处理复杂任务的AI。之前Liquid AI推出的26.9亿参数版本,已经能在树莓派这种小型设备上跑AI代理,完全不需要依赖云服务。现在参数规模更大的新版本,能支持更复杂的多步骤任务。
目前业内普遍认为,多数AI和代理型工作负载未来会在本地运行,核心原因就是本地方案成本更低、可定制化程度更好。
想要用这个新模型,只需要跟着项目说明部署就可以,替代路径已经存在。如果越来越多的复杂AI任务都能在本地设备流畅运行,接下来哪些服务会改变你日常使用AI的习惯?