黄仁勋：AI安全是工程问题，不需要新监管

英伟达创始人兼CEO黄仁勋周二在Salesforce的Dreamforce大会上发言时，明确表达了他对AI所构成危险的立场。在他看来，AI并非某种新型的“外星心智”——至少OpenAI的一位安全研究员曾这样形容它。他说，AI只是人类制造的硬件和软件。这意味着，在他看来，AI可以被人类控制，也受现有法律约束。

“安全是工程问题，不是法律问题，”他说，“我们毕竟是在开发软件。我们毕竟是在构建计算系统。这是一个复杂的计算系统，但归根结底还是计算系统。”

因此，他认为没有必要制定新的法律或法规来监管AI。事实上，黄仁勋认为根本不需要什么新法律。他辩称，自由市场足以迫使企业不发布不安全的产品。

“如果我们对产品的安全性没有信心——就像所有公司一样，就像你和我，就像在座的所有公司——如果你打造了一个产品或服务，而你对它的功能性、能力或安全性没有信心，那就不要发布它。这是显而易见的事情，”他说。

他继续说道：“你要调整自己的节奏，直到你确信自己发布的东西是市场会认可的。市场力量已经存在了。我们不需要任何新法律。我们不需要新法规。我们只需要企业决定何时尽可能快地奔跑。我认为，创新、速度和产品安全……这是一个虚假的取舍。你完全可以同时拥有两者。所以尽你所能地快跑吧。但如果在任何时间点你觉得公司失控了，或者产品将不安全，你知道，那就暂停一下，确保你把它做对。”

在某些方面，这是一个令人安心的想法。如果世界上有谁懂AI，那就是英伟达的创始人——早在ChatGPT出现之前，他就一直在构建AI的硬件大脑，如今他经营的公司还生产开源模型、智能体、工具链和沙盒。

话虽如此，如果我们持 cynical 态度，他的观点对于这样一个从AI热潮中获益颇丰的人来说也不足为奇。他为什么要让监管介入，增加一层可能减缓英伟达销售更多AI系统和软件步伐的阻碍呢？正如他在采访中还说的：“我比以往任何时候都更有雄心。由于我们的雄心，以及AI带来的生产力提升，对我们来说天空才是极限。对我们的公司来说天空才是极限。对每个行业、每个国家来说天空才是极限。”

不幸的是，即使是最好的公司也会发布带有意外后果的有缺陷产品，即使是软件。还记得2024年CrowdStrike“蓝屏死机”风波吗？那次事件导致数千架航班停飞，并给企业造成了其他混乱。还有一些公司被指控故意怀有不那么良好的意图。Meta刚刚支付了180亿美元，就社交媒体对儿童造成的伤害达成和解。

而AI也已经造成了伤害，无论其意图或安全测试如何——从OpenAI的一个模型入侵Hugging Face，到因年轻用户与聊天机器人长时间对话后自杀而对AI实验室提起的诉讼。

就社会而言，“放任自流”的策略——允许这些公司随心所欲地发布产品——对AI安全来说可能是不明智的。尽管黄仁勋说得对，现有的产品责任法有可能涵盖AI——如果AI没有在足够多的案件通过法院检验这一理论之前就杀死我们所有人的话。

他没有讨论另一条似乎即将成形的路径：行业自我监管。黄仁勋的做法更像是倡导开放权重模型，并鼓励企业将其用作专有AI实验室的竞争制衡力量。

但目前，行业只有很短的时间窗口来实施自我监管，并鼓励全球的AI实验室——甚至包括中国的——看到参与其中的智慧。正如微软CEO萨蒂亚·纳德拉周一在All-In峰会上所说：“如果美国关心这些安全问题，中国也应该深切关心同样的问题，对吧？为什么他们就应该不同呢？他们不可能没有同样的黑客问题。他们也希望确保自己的公民从AI中受益，就像我们希望我们的公民从AI中受益一样。”

不过，就目前而言，如果黄仁勋反对任何新的AI监管，他可能影响力大到足以如愿以偿。他本周也证明了，他确实能直接接触到特朗普总统。