AI安全圈现在连谨慎的定义都没达成共识

我之前觉得最好忽略所有“AI对齐”之类的东西，认为它们不重要，但现在我认为人们必须停止“和AI聊天”，也必须不准AI再进行对话。大语言模型只是一台机器。除了把它当机器用，不能允许人们把它用作别的用途。

🇺🇸🇨🇳 关于AI安全的辩论声量越来越大，但呼吁谨慎的人们对于“谨慎”到底意味着什么仍然没有达成共识……

Anthropic 首席执行官 Dario Amodei 希望放慢前沿开发的速度，让对齐和监测工作能够跟上。Sam Altman也呼吁“控速”而非停摆，而Elon支持加强监管，但他更倾向于实验室之间的同行评审，而非强力监管。这还没说到这件事关键的地缘政治层面。

中国在AI技术栈的关键部分仍然落后于美国。美国在先进AI硬件上投入多得多，在前沿芯片领域处于领先地位，还保持着重大的软件优势，而中国在尖端半导体制造方面仍然较弱。这给了北京拒绝全球实质性暂停开发的充分理由……

在中国看来，在美国领先的时候放慢脚步，只会让当前的等级固定下来：美国保持在芯片、算力和前沿模型上的优势，而中国接受第二名的位置。所以，哪怕美国企业得出结论说放慢脚步是最安全的，华盛顿仍然不得不面对一个残酷的问题：如果中国继续赛跑会发生什么？到这里，技术层面就成了决定性因素……

AI依赖巨量的先进硬件，而这些芯片不可能永远运行。数据中心的硅芯片会老化，供应链仍然高度集中，每一代技术都需要新的晶圆厂、封装、能源基础设施和资本。所以这场竞赛不只是看谁今天拥有最好的模型，还要看谁能更快地持续重建和扩张技术栈。

如果中国持续向本土晶圆厂、发电、数据中心和模型投入资源，而美国故意减速，那双方的差距就会缩小。如果差距缩小到一定程度，要求美国企业加速的压力就会立刻回来……那么，解决方案是什么呢？

作者：Mhedi