AI Pulse
📡 X 信号

OpenAI发布反蒸馏研究报告

OpenAI 刚发布了一篇反蒸馏研究报告。核心观点就是,他们已经把 GPT-6.2 的思考过程锁死了,不让别人再有机会拿去训练自家模型。其中主要点名了DeepSeek和Kimi。

文章主要内容包括以下几点:

1. 保护思考链的原因。 OpenAI 自己做了实验,用模型完整的思考过程去训练另一个模型,学到的本事比只看回答摘要要多,尤其是在网络攻防方面。

2. 成效如何? 在他们的内部测试里,提取上一轮思考过程的攻击成功率,从 GPT-6 Astra 的 54.0% 降到了 GPT-6.2 Astra 的 0.2%;偷当前这一轮的,从 22.9% 降到了 0.9%。

3. 起因是什么? 他们今年发现了多起有组织的蒸馏行为,每周封禁的账号从几千到几万个不等,今年夏天明显变多了。

4. 点名DeepSeek 和Kimi。 文中还重提了两件事。 2 月,OpenAI 向美国国会报告 DeepSeek 在蒸馏美国的前沿模型; 9 月,他们把一起窃取思考过程的行动主要归到了与月之暗面(Kimi)有关的人员身上。OpenAI 还说,很快会公布更多最近打击的行动。

5. 支持立法制裁蒸馏行为。 他们还表示,支持立法制裁非法蒸馏美国模型的外国主体,也支持《芯片安全法案》等三项法案。

合着一直研究安全问题,新模型死活抬不上桌,发布了又问题频出,原来精力都用来防蒸馏了啊👍

查看 X 原帖

订阅 AI Pulse

每天 08:00 · 12:30 · 18:30 · 23:50 更新