前Anthropic团队新模型Fern：10M上下文能装下整个代码库

想象一下，把整个代码仓库一次性塞进AI的“记忆”里，不用反复复制粘贴片段，也不用担心上下文截断。Mirendil刚刚发布的首个模型Fern，就把这件事变成了现实。

Fern的上下文窗口最高可达10M tokens。这是什么概念？大约相当于50万行代码，差不多是Megatron-LM级别的规模，或者一个AI智能体连续工作好几天的产出量，全部可以同时放在上下文里处理。

Mirendil是一家由前Anthropic研究人员创立的AI初创公司，定位是面向科学领域的自我改进型AI。此前已公布的私募轮估值为10亿美元，目前正在洽谈以50亿美元的估值进行新一轮融资。Fern 0.1是其第一个版本，经过了一轮简短的后训练流程。

@bneyshabur 认为：Fern从零开始预训练，10M tokens的上下文可以一次性容纳整个代码库，甚至多个仓库，让智能体在完整代码环境中持续工作。@shayan_ 表示：Fern专为高吞吐的智能体编码和AI研究工作打造，是从零开始训练的。@tararezaeikh 补充道：你可以把整个仓库放进上下文，然后继续在这个完整环境里推进问题。

对普通开发者来说，这意味着什么？以前用AI写代码，最头疼的就是上下文窗口不够用——一个项目拆成十几个文件，每次只能喂给AI一小段，它经常“忘记”前面写了什么。Fern把这个限制直接拉到了10M tokens，相当于AI可以“通读”整个项目再动手，而不是盲人摸象。

这条推文发布后获得了1481个点赞、751次收藏，浏览量超过10万。收藏数接近点赞数的一半，说明很多人在认真研究这个模型的实际用途。

不过，Fern目前还处于0.1版本，只经过了一轮简短的后训练。10M上下文的实际推理速度、成本、以及在真实项目中的表现，还需要更多使用者验证。

当AI能一次性“记住”整个代码库，它写出来的代码会更连贯吗？还是说，更大的上下文反而会让它在海量信息中迷失重点？