Inkling 2 Mini 发布,小模型让 AI 真正跑在本地
Inkling 2 Mini 今天发布了!我一直很期待这款模型问世,因为我认为它同时推进了我们的「赋能」和「开放科学」两大使命。下面是我的一些简短想法:
1. 小模型拓展了我们实现 AI 民主化的边界。拥有属于自己的智能至关重要。如果 AI 要成为你工作的延伸,你会希望这个延伸是属于你的,而不是别人的。大型开源模型之所以重要,是因为它们将前沿能力延伸到了封闭花园之外。但是,虽然万亿参数模型扩大了能运行模型的人群范围,它仍然无法满足本地使用场景的需求。大多数人并不拥有计算集群;每次想要使用模型时,他们仍然需要通过中间人来交互。硬件要求越低,模型就越能将智能普及给所有人。
正如大型开源模型能让企业发挥其专有优势一样,我希望小型本地模型也能为个人带来同样的效果。无论大小,开源模型都有其民主化的益处,而今天我很高兴我们推动了本地模型的边界。我很期待看到大家如何使用它、定制它,让它真正成为自己的工具。
2. 我希望这次发布能推动更多关于可监控性的开放科学研究。有传言称,一些强大的模型正在使用循环变换器(looped transformers),这在整个安全社区引发了对可监控性的紧迫担忧。我绝不是思维链可监控性方面的专家,但让我担忧的是,AI 安全社区一直没有一个好的方式来公开研究这种技术的影响。
我们的安全团队已经开始推进这一科学领域的研究,他们也希望你们能参与进来。他们在我们的博客中加入了一个长篇章节,重点讨论了该模型的可监控性以及对其他循环模型的影响。他们还与 @GoodfireAI 合作,让他们提前获得该模型用于可解释性研究,该研究已于今天与我们的博客一同发布。
作为一个非专家,我希望批判性的研究者能够对各种说法提出质疑,并提供第三方证据,为开发者和政策制定者的后续行动提供参考。我期待一个开放的科学过程来建立证据基础,并希望这个模型能有所帮助。
我鼓励大家阅读 @AlexRobey23 关于该模型安全影响的推文串。也可以在这里查看 @GoodfireAI 的可解释性研究发现:
本文由 AI 翻译自英文原帖,技术名词保留英文。
查看 X 原帖