英伟达：客户做出危险AI就断供芯片，另投2.5亿美元研究安全

英伟达CEO表示，客户构建出不安全AI，公司就会切断芯片供应。同时，英伟达承诺投入2.5亿美元，资助牛津大学、伦敦大学学院（UCL）等英国机构的AI安全研究。

英伟达供应AI行业大部分芯片。把芯片出货和模型安全性绑在一起，等于在供应端加了一道阀门：最终裁量权在英伟达手里。

那条帖子抛出一个更大的问题：AI技术栈的其他部分，是否也该作出类似承诺？评论区的高票意见认为2.5亿美元不够。有评论者算了一笔账：为一个模型构建SAE或NLA，成本至少占训练计算量的10%到20%。认真对待机械可解释性安全，需要承诺把训练成本的一定百分比投给安全，而不是一次性拨款。

英伟达给的是2.5亿美元固定金额的资助；评论者要的，是按训练成本百分比计算的持续安全投入。