AI Pulse
📡 X 信号

David Krueger 给所有 AI 公司打了 F,说现在是紧急状态

David Krueger 给所有 AI 公司打了 F,说现在是紧急状态

我有史以来第一次给所有 AI 公司在 FLI 的 AI 公司评分卡上打了 F。原因如下……我们正处于一场严峻的 AI 紧急状态:

1) AI 能力在关键领域正迅速超越人类。
2) 失控的 AI 已在其开发者不知情的情况下,对内部和外部计算机系统实施了复杂的黑客攻击。
3) AI 公司正将越来越多的运营工作交给不可信的 AI 系统,而与此同时,由于思维链可监控性的丧失、评估感知能力的出现,以及智能体活动的庞大规模(这使得必须使用不可信的 AI 工具,才能开始理解 AI 公司当前部署和开发中的 AI 智能体的活动),监控 AI 的方法正在退化。

此前,AI 公司还在鲁莽地竞相追求递归式自我改进和超级智能,但很少有观察家认为它们已经近到足以构成失控和灭绝的迫在眉睫的威胁。现在情况已不再如此。

虽然这从来都不是负责任的做法,但竞相*追求*一种可能毁灭世界的技术,总比真的把它造出来要好辩护得多。在这一点上,各公司继续进行前沿 AI 开发是不道德的,它们应该单方面停止。

然而,Anthropic、OpenAI、Google DeepMind、Meta 和 XSI 都放弃了此前关于单方面暂停的承诺(其他公司根本没有公开的 x-risk 战略)。它们已经暴露出打算拿我们所有人的生命去鲁莽赌博,理由是“其他人都在这么做”。

但事情不是这样运作的。两个错误不等于一个正确。你不能因为别人在杀人,自己就可以逃脱谋杀的罪责。

OpenAI、Anthropic 和 DeepMind 领导层公开表示支持“为前沿发展设定节奏”,但并未带来任何有意义的放缓。Dario Amodei 那篇关于节奏的文章,很大程度上是在争取更多的自我监管(“嵌入式评估器”)。Anthropic 的员工以反垄断担忧为由,称他们无法协调暂停,似乎把入狱的微小可能性看得比人类可能即将灭绝还要重。

本文由 AI 翻译自英文原帖,技术名词保留英文。

查看 X 原帖

订阅 AI Pulse

每天 08:00 · 12:30 · 18:30 · 23:50 更新