特朗普政府接下来要扩大AI监管框架范围
⚡️快讯:预计特朗普白宫将在未来几个月内扩大其AI监管框架。这包括只要开源模型达到了Anthropic和OpenAI顶级模型相同的「前沿」能力,就将其纳入该框架。
最核心的一点是,前沿AI催生了一种现代国家从未在民用规模与之共存的权力形式:私人所有的主权。
一个前沿开源模型不止是给用户提供信息。它赋予用户持续的推理、写代码、研究、说服、自动化、协调和行动能力,且不需要持续获得创建机构的许可。如果权重存储在本地,访问权限就无法直接被撤销。这就是变革性的断点。
现代数字秩序建立在可撤销能力之上。银行可以冻结账户,平台可以封禁用户,云服务商可以关停服务器,政府可以制裁中间商,雇主可以吊销资质。几乎所有重要的数字能力最终都要经过他人的设备运行。前沿开源权重颠覆了这套架构。一旦下载完成,这份智能就被持有者永久拥有。
这也是为什么这件事最终的影响远不止AI安全。最强的认知能力变成数百万私人行为体可以拥有、且行政手段无法撤销的东西,国家不可能坦然容忍这种情况。
随着智能体获得更多工具,这个问题会进一步恶化,因为模型会逐渐变成自主生产能力,而非被动的软件。因此华盛顿最终会划出一条线。线以下,智能可以自由普及;线以上,智能将被管控。
真正的政治斗争将围绕这条线划在哪里展开。因为谁定义了前沿门槛,谁就决定了普通民众在没有机构监督的情况下,被允许拥有多少认知能力。这就是藏在政策话术之下的核心问题。
几个世纪以来,国家垄断了合法暴力。二十世纪,国家获得了对货币、通信基础设施和战略武器的非凡控制权。二十一世纪,主权又新增了一个管控对象:先进智能本身。
头部AI公司有强烈的动机接受这套安排。对开源模型设置监管上限,可以保护前沿实验室免受能够复制、微调并将其能力商品化的竞争对手冲击。因此国家安全利益和企业垄断利益可以达成一致。
政府得到可控的智能,前沿实验室得到受保护的稀缺性,公众得到 extraordinary AI,但永远只能触及前沿线以下的水平。这就是目前看来可能性最大的均衡状态。
这套体系建立后,绝不会被表述成「禁止普通人拥有最强智能」,它会被包装成用任何真正存在的灾难性风险来为这条边界辩护。但结果不会改变。人类有史以来最强大的认知机器,会集中在能够被国家管控的机构手中。
本文由 AI 翻译自英文原帖,技术名词保留英文。
查看 X 原帖