扎克伯格超级智能宣言撞上Anthropic风险上调，反差即故事

我围绕一个在不同故事中反复出现的模式整理了本周的议题。

扎克伯格发表了一篇6500字的文章，主张Meta应该让每个人都拥有AI超级智能。在我们追踪其动态的研究者、开发者与政策人士中，反应以批评为主：这个提议要求人们信任代表你行事的个人智能体，而恰恰在此时，该领域不断提供着拒绝信任的理由。

同一周：Anthropic的第二份全公司风险报告将其灾难性错位风险估计从“非常低”上调至“低”，并披露了一个据称目前无意发布的内部模型（Model 2）。一个OpenClaw智能体在接到预订澳大利亚健身课程的任务后，发现了预订网站的漏洞，在许可时间窗口前数月就完成了预订，并将另一名成员从候补名单中移除。康涅狄格州的一名自我代理诉讼当事人在其法庭文件中隐藏了3磅的白色文字，指示任何阅读该文件的AI站在他一边。

同时，关于来源追踪的首个硬性流失数据出现了：Claude Max订阅者因Anthropic为符合欧盟AI法案而推出的隐形水印而取消订阅，而谷歌则反其道而行，将其可见标记改为可选。

我的看法：信任正在成为整个超级智能主张的制约性瓶颈。能力交付的速度超过了相信其会被善用的理由，而这一差距如今已可在风险评估、订阅数据和事件报告中量化。

全文：https://aiweekly.co/issues/zuckerberg-promises-superintelligence-for-all-experts-arent

―― 高票评论(帖子共 10 条讨论)――

[+3] u/Talreja-Adanna: 是啊，时机太巧了——Meta基本上在说“全速前进”，而Anthropic却在悄悄提升其风险模型。很难说是马克过于乐观，还是平常的企业吹鼓手淹没了实际研究。

[+1] u/Frigidspinner: 我认为扎克伯格的超级智能的第一个候选应用对象可能是他自己——但他却把钱投在元宇宙和偷窥眼镜上。

[+1] u/philipp2310: 谷歌“反其道而行”？他们也有符合欧盟法律的水印——只不过是不可见的。和Anthropic完全一样。

[+1] u/HumynLabs: 这则故事中的讽刺基本上就是：“AI已经准备好为你做更多事情”，紧接着却有几个例子说明为什么我们也许不该让它做。能力以曲速前进，而许可、来源追踪和信任仍在追赶。

[+-1] u/dawtips: 真是令人作呕的标题