AI Pulse
📡 X 信号

开源去审查模型下架潮,权重流出后无法召回

开源去审查模型下架潮,权重流出后无法召回

开源 AI 模型大下架已经开始。

随着 Jensen 离职,我们本周在英伟达失去了一位开源 AI 领袖,而针对开源 AI 的打击节奏已被大幅加快。

有选择地移除那些已被剥离拒答行为的模型仓库。Hugging Face 于 2026 年 10 月初下架了一个被宣传为 abliterated(去拒答化)、用于攻击性网络攻击的 GLM-5.3 变体,理由是违反了内容政策。一个经过 abliterated 处理的 Kimi K2.7 Code 构建版本以及至少另外两个仓库也在同一时间前后停止加载。

这些行动并未清空平台。搜索结果仍然显示数千个被标记为 abliterated、uncensored 或 heretic 的模型。

Abliteration 是对已完成的开源模型权重进行修改,以减少或移除其对某些请求的拒答。这种修改不需要完全重新训练。修改后的权重会在基础模型发布后的数小时或数天内,扩散到其他账户、量化格式和本地工具中。

一项对 2024 年初至 2026 年 3 月期间的研究,在 Hugging Face 上识别出 3,471 个原始的无审查模型;每个模型平均被重新打包了 2.4 次。

Meta 已向一个为创建此类变体构建工具的项目发出停止侵权函,声称其违反了 Llama 许可条款。Anthropic 也发布了警告,指出从某些开源模型中移除安全防护措施非常容易。

这些下架行动与已记录的滥用风险和平台规则相对应。被宣传用于攻击性网络工作的模型已被移除,而那些只是省略了拒答行为的模型则仍然存在。一旦权重离开宿主平台,它们就可以离线运行,且无法被召回。这就是宿主层面行动的实际限制。

同期,闭源模型也收紧了对网络相关查询的限制。欧盟《人工智能法案》对生成式系统的提供者施加了标记义务,以便合成输出可以被检测为机器生成。在 2026 年 8 月之前已上市的系统须在 2026 年 12 月之前合规。这些义务适用于生成系统的提供者,而不适用于用户已持有的每个本地权重文件。

英伟达已开发出可选的机群监控软件,该软件使用遥测技术来估计其数据中心 GPU 的位置,首先从 Blackwell 系统开始,并已私下向一名美国议员确认,《芯片安全法案》中的位置验证机制在技术上是可行的。该公司表示,其 GPU 不包含远程终止开关,且遥测数据是只读的。

《芯片安全法案》于 2025 年提出,目前仍在审议中,该法案将要求通过设施检查、公司证明或 GPU 上线时的 ping 来验证先进 AI 芯片出口后的最终去向。

* 一名共同提案人已表示计划制定更严格的立法,要求先进 GPU 在运行前必须验证有效的许可证。
* 学术提案已概述了基于固件的离线许可机制,该机制将在没有当前监管机构发放的许可时禁用芯片。

这些措施针对的是出口管制和走私。

本文由 AI 翻译自英文原帖,技术名词保留英文。

查看 X 原帖

订阅 AI Pulse

每天 08:00 · 12:30 · 18:30 · 23:50 更新