Sakana AI 研讨会满员,CEO 公布 AI 主权三大支柱
今天的 Sakana AI 研讨会承蒙各位支持,座无虚席。非常感谢各位拨冗莅临!🐟
活动包括 Jürgen Schmidhuber 教授的主旨演讲和对谈,相关情况我们将在日后另行汇报。
当天,CEO David Ha 介绍了对 AI 主权至关重要的 Sakana AI 举措的“三大支柱”。
- 预训练:利用 AI 智能体开发下一代预训练模型
- 后训练:让 LLM 适应日语和商务场景的后训练技术(Sakana Namazu)
- 编排:不依赖单一 AI 模型即可实现顶尖性能的编排技术(Sakana Fugu)
接着,首席科学家秋叶拓哉介绍了预训练项目“Sakana Sawara(暂定名)”及其意义。
Sakana AI 一直以来的优势之一,是在“智能体层”进行技术创新,以最大限度地发挥 LLM 的作用。但现在,“模型层”再次变得重要。开源模型与顶尖模型之间的差距正在缩小,构建模型的成本也在下降,而且还可以通过强化学习,让模型针对自身的任务和工具进行特化。基于这种情况,我们认为现在是重新着手构建模型的时候了。
预训练的瓶颈依然在于算力的规模。如何分配有限的计算资源。模型开发的进展,越来越取决于以何种顺序进行哪些实验、以及舍弃哪些想法的判断精度。秋叶介绍了一种方法,即充分利用 AI 的力量,由一支精干的小团队来开展这项开发工作。
日经新闻也报道了这次发布。🐟