社区讨论:多数人认为英伟达作为芯片厂商,提出用新增监督芯片解决AI代理安全问题,本质是想多卖芯片,只是为了迎合股东利益、提升股价,解决不了实际安全问题。有人指出AI代理要发挥作用本就需要广泛的自主访问权限,增加人工监督会成为瓶颈、抵消生产力收益,当前AI代理的安全风险本就没有解决方案。也有人调侃之前喊着要隔离网络做沙箱的人,现在又会指责这是软件锁闭,属于在通用计算领域建围墙。
有人质疑这款芯片能实现比权限限制、防护软件更多的功能,如果真的有效,硬件应该开源而不是由单一厂商控制,还有人指出黄仁勋此前反对AI监管,称美国企业可以自我监管,但英伟达本身在AI发展中存在直接的金融利益关联。