AI巨头呼吁全球暂停AI，背后争议引热议

早上通勤刷资讯的时候，总能看到AI又有新突破的消息，有时刚适应一个新功能，更强大的版本又出来了。

现在，AI行业内部出现了不一样的声音。Anthropic首席执行官Dario Amodei发表公开文章，呼吁全球放缓或者暂时暂停前沿人工智能开发。

Dario Amodei认为，目前监管已经跟不上AI的发展速度，行业对AI的控制能力已经追不上它的发展速度，近期已经有事件引发恐慌，担忧AI会失控并自主行动，需要放缓脚步让社会结构和AI对齐（让AI行为符合人类预期）研究跟上技术步伐。

他提出，因为前沿AI训练很难隐瞒，参与者的动机容易让私下违背约定的情况出现，所以需要全行业协作放缓，在监管推进的同时，企业自愿合作制定安全标准。

作为第一步，Anthropic已经单方面做出承诺，将为第三方评估人员提供永久的员工级系统访问权限，方便评估人员核查安全措施合规性、记录安全事件，并且在训练过程中评估模型的对齐情况。

@APompliano认为：没有人相信Anthropic或者其他大模型实验室真的会放缓发展，事实上，这些实验室有足够的动机往相反方向走，所以他们才会不断投入更多资源。

@yishan认为：终于有AI领头人做了正确的事，“把握前沿节奏”就是正确方向，既要继续前进，也要协调发展速度，在对齐研究上开展合作。

@KotlerBTC认为：虽然大部分观点都同意强大AI已经有控制不住的迹象，但不认为呼吁放慢脚步是真心，Dario Amodei和OpenAI的Sam Altman矛盾很深，根本不信任OpenAI会放慢前沿模型的性能推进。

普通人一直在享受AI带来的便利，从图文生成到辅助办公，生活效率确实变高了。但另一边，越来越多行业从业者开始担心，失控风险可能会在某个节点突然爆发。

企业自愿做安全评估，能真的让AI慢下来吗？还是只是行业竞争中的另一种表达？