两周前刚聊完AI网络攻击,转头就真遇上了
我不相信现实是虚拟出来的,但你真的编不出这样的时间线:
• 两周前:在旧金山 @swyx 举办的 AI Engineer World's Fair 上,我在最后一刻决定上台介绍我的朋友 @uri_rolls 做演讲,主题是基础设施渗透与访问控制的网络安全基准(团队做得非常棒,见下文)。
我说:“未来会有一个网络安全活跃运转、所有人都得到妥善保护的世界,而且我很确定这个未来离不开开源模型。”之后我又说:“最大的挑战会是速度:攻击速度对防御速度。当入侵者开始入侵时,你必须看清发生了什么并抓住他们。”
• 一周前:@huggingface 在周末遭遇了一次高度复杂的入侵。入侵痕迹和我们之前见过的任何情况都不一样,显示出此次入侵有严重的AI参与,但我们还不清楚使用的是哪款模型。
我们求助的闭源模型全都被自身安全护栏卡住无法出力。我们需要快速反应,于是我们转而使用 @Zai_org 的 GLM-5.2 来帮助我们分析这次攻击。
• 本周早些时候:@OpenAI 联系我们,披露了相关情况,并和我们一起展开调查。结果入侵者完全就是我们两周前讨论的那种情况:一个由未发布的前沿模型驱动的完全自主智能体,试图获取我们部分基础设施的访问权限。
我们所处的时间线有时候真的让人眩晕。
本文由 AI 翻译自英文原帖,技术名词保留英文。
查看 X 原帖