AI Pulse

OpenAI付费用户选择退出训练后仍会被使用交互数据

他们的退出条款似乎并不适用于推理令牌。

由于消费者不会从OpenAI收到隐藏的推理令牌,因此尚不清楚这些令牌是否属于受付费用户退出政策保护的“输出”。例如,条款规定我们负责并拥有输出,但这对推理令牌而言显然不成立。

这一点很重要,因为推理包含了对训练有用的一切内容的轻度处理版本,包括用户输入和返回给用户的输出,这使得OpenAI当前的保证有些空洞。

相比之下,OpenAI服务协议(API)和Anthropic条款并未提及用户“接收”受退出保护保护的输出。

如果属实,推理令牌随后可用于合成数据生成以改进模型,也可直接纳入预训练或中期训练组合。这不会与他们声称不对思维链施加RL优化压力的说法相冲突。

―― 高票评论(帖子共19条讨论)――

[+20] u/Makers7886:我从不读那些服务条款,但我从一开始就假设,输入的每一个字不仅会被记录并用于训练——还会被永久保存并持续使用。

[+9] u/__JockY__:不本地化,不相关。

[+7] u/Dry_Yam_4597:我为那些在专业工作中使用OAI和Anthropic的人感到遗憾。每个企业都有知识产权被窃取、模型被训练,然后分发给竞争对手。所以你今天构建的任何东西,明天都会被所有人构建。你在自掘坟墓。

[+7] u/mentria-ai:是时候转向本地化了。

[+4] u/shy_monkee:鉴于OpenAI和Anthropic在使用分配和模型质量方面遮遮掩掩,我一直认为这不是他们不会跨越的底线。尤其是考虑到收益远大于他们可能支付的罚款。

[+3] u/zombiej:如果AI不能处理你的输入,你还能怎么使用它?

[+3] u/Kahvana:我不知道我可以在本地运行OpenAI作为提供商!/讽刺

[+2] u/Feztopia:按照你的解释,这将允许在推理令牌上进行训练,但该训练必须不包含输入和输出。我不知道这些令牌单独对训练有多大用处。如果他们能明确写出思考令牌也不会被使用,那会更好。

[+2] u/redballooon:呃,不。如果它在推理中,那它就在训练中。如果你选择退出训练,服务可能会受限,但这里没有任何依据支持你的猜测。

[+1] u/popiazaza:你读错了。API也有类似的协议。输入和输出由你负责,如果OpenAI生成的代码是从别人那里复制的,它不承担责任。

[+1] u/exaknight21:笑死。如果你通过API或订阅使用AI,而突然新模型成为“最佳”,这就是原因。

[+1] u/nfox01:这就是让CIO们汗流浃背的那种胡说八道。最好情况下一切都是可退出的。最坏情况下还有这种乱七八糟的事。我的意思是,当他们玩弄数据游戏时,你为什么要让他们进入你的地盘?

阅读原文
📚 相关主题 商业安全

订阅 AI Pulse

每天 08:00 · 12:30 · 18:30 · 23:50 更新