Fulcrum花不到5000美元发布Echo模仿模型
一个不到 $5,000 训练出来的模型,正在证明一件很尴尬的事:GPT 写得一股 AI 味,可能根本不是因为它不会写
Fulcrum 刚发布的 Echo:一个专门做写作风格模仿的模型。我用他模仿了特朗普的话,大家可以看看像不像
Fulcrum 的说法是:普通大模型经过 RLHF / post-training 后,写作风格越来越趋同,容易出现一种统一的「AI 腔」; Echo 则反过来训练模型,让它尽可能进入某个具体作者或人物的语言分布里。
官方直接把它描述为: “a writing model that takes on the voice of the author you name.” 也就是说,你可以指定一个 persona,然后让它用这个人的语言风格写同一个主题。官网现在直接给了 Donald Trump、Bible、Dr. Seuss、4chan anon、Shakespeare 等示例。
普通模型大概经历: 互联网几十亿种写法 → pretraining 学进去 → SFT / RLHF / assistant tuning → 被压成一种“礼貌、清晰、结构化”的统一人格。
Echo 做的事情有点像反向操作: 统一 assistant persona → 指定作者 → 找回模型内部原本存在的 style manifold。
Fulcrum 一个很有意思的观点是: 现在模型写得像 AI,可能不是模型不会写,而是 post-training 把它会的那些写法压没了。