阿联酋一次性开源六个大模型,史上规模最大
不少人花着包月费用闭源大模型API,跑着自己需要的AI任务,却连模型怎么生成结果都看不到。
现在来自阿联酋的研究团队,一次性把六个基础模型全开源了。这次发布的K2 Horizon系列,是人工智能历史上规模最大的全开源模型发布。
K2 Horizon一共包含六款基础模型,参数量从9亿到3750亿,覆盖了从小巧的可穿戴设备、手机,到本地工作站,再到企业级部署的全场景需求。最大的3750亿参数模型采用了MoE(混合专家架构,每次只激活部分参数运行),实际运行时只激活约230亿参数,另一个360亿参数模型实际只激活约40亿参数,兼顾了大模型的能力和小模型的运行效率。
和很多只开放模型权重的开源项目不同,K2 Horizon完整开放了模型权重、代码、训练数据和训练方法。@SirGlavan_ 认为:这对开源AI来说是一个重要时刻。
IBM研究科学家评价此次发布是开源的重要里程碑,对整个闭源AI经济带来了挑战。过去很多开源大模型只放了权重,却没开放训练数据和训练方法,开发者根本没办法复现训练结果,也没法审计模型的每一步推理,更难完全信任这样的模型。
全开源的特性让开发者可以研究模型学习推理的每一步过程,补上了透明度这个缺口。替代路径已经存在,门槛只剩一个说明文档,任何人都可以基于这些模型修改、部署,不用再向闭源服务商支付调用费用,也不用担心服务商突然调整API价格或者停服。
现在已经有开发者把小参数版本部署到自己的手机本地运行,也有企业团队准备基于这套全开源技术栈搭建自己的内部AI服务。
当全栈开源的大模型生态逐步完善,接下来还有多少闭源服务会被替代?