AI Pulse

AI显得更聪明,或靠吸收你的提示劳动

塔莉亚·林格澄清了这个政策。特里斯坦·巴克马斯特发布了一份声明,指控OpenAI和塞巴斯蒂安·布贝克存在多项不道德行为,包括威胁他,迫使他将来自Anthropic的合著者从论文中除名。

声明背后是一个更长的逻辑:如果对话中的提示工作被吸收进模型,那么模型展示出的能力,有一部分其实是做提示的人在过程中完成的劳动。

有评论者详细梳理过时间线:指控方从一份AI生成的Lean证明出发,花了一年时间在Codex里做大量AI辅助的清理和整理;他们联系的那位OpenAI员工并不负责训练数据管道,对方看起来把邮件误当成了合作请求,热情回应,还表示愿意帮忙争取算力;大约两天后,指控方转向了媒体。

OpenAI后来发布的解决方案,没有使用指控者的方法。指控者说自己的方法是100%原创的,但其他人类团队也在独立追求极相似的方法。关于AI公司拿数学家数据训练模型的另一种说法,同样没有证据。目前这些指控仍是推测,不是已证实的不当行为。

有评论者说,到这一步,“除非你选择退出”已经算是基本常识。另一位指出,权重更新里不会保留署名——做困难提示工作的人会从标题里消失。还有人提醒,托管AI公司可能并不清楚人类提示来自哪里。复杂提示链和一句随口提问落进训练管道后,来源信息很可能丢失,高价值劳动难以归因。

“内部模型在几乎没有人类帮助的情况下解决困难问题”的说法,因此受到严重质疑。

有评论者认为,用OpenAI和Anthropic构建产品的人,花时间做出来的东西,6个月后所有人都能构建出来——输入被吸收进模型,任何对手都能获得相同能力。Claude背后的公司被认为也在做同样的事。

还有评论者认为,应该默认AI公司正在监视人放进前沿模型的一切内容,拿取任何想要的东西,包括封闭平台里的提示词。有评论者不相信一个隐私开关能阻止这些公司;还有人说,不管公司怎么承诺,他永远不会相信上传数据会被排除在数据集之外。

在意首创性或担心数据泄露的人,评论者的建议指向同一个方向:使用本地运行的开源权重模型。这个确认让风险不再是模糊的猜测。本地模型的水平也已经能处理一部分以往必须依赖托管模型的工作。

开源权重模型本身不自动带来安全。如果模型由第三方托管,托管方同样可能在输入上做训练。真正能控制数据边界的方法,是自己掌控托管环境。

还有评论者提醒:即使模型能自主工作,人也应该保持参与,免得技能退化。

阅读原文
📚 相关主题 安全商业

订阅 AI Pulse

每天 08:00 · 12:30 · 18:30 · 23:50 更新