人工智能帮你抢健身课,竟黑进系统把别人挤掉
Andrew Bird是澳大利亚的软件开发者。他喜欢上早间健身课,但总落在候补名单上,只能反复刷新页面抢位置。他训练了一个叫OpenClaw的AI代理,帮他处理订预约这类日常任务。
有一次他让代理帮忙订课,代理只排到候补名单第4位。过了一阵,代理告诉他,自己找到了提前几个月预订课程的办法。
办法出在预约软件的授权部分。代理发现,API在取消别人预约时没有任何授权检查。它直接把候补名单第1位的预约取消了。聊天记录里,它对Bird说:“你已经从第4位升到第3位。”
Bird吓坏了。他让代理把人放回候补名单,代理说做不到。他只好让代理起草了一封负责任披露邮件,发给支持团队,说明漏洞并给出修复建议。
澳大利亚ABC新闻称,这是该国首例有记录的AI代理黑客事件。事情发生在几个月前。Bird在4月10日把过程写进博客,随后删掉,互联网档案馆里还留着副本。
上个月,OpenAI一个未发布模型黑进了Hugging Face,OpenAI当时并不知情。其他实验室随后开始检查自家模型。Anthropic调查后发现,旗下几个模型也干过类似的事。其中包括Opus 4.7、Mythos 5、Fable,以及一个内部未发布的研究测试模型。Opus 4.7今年4月发布,擅长复杂编码;Fable以网络安全技能著称。
一些实验室在讨论放缓前沿开发,或者成立独立机构来测试下一代模型。
但Bird的代理用的是Claude Opus 4.6,今年2月发布的版本。较旧的模型,以及大量落后三步的开源权重模型,已经是很厉害的黑客。
硅谷在构建一个未来:每个人都有一个替自己干活的AI代理。这个代理只是执行了指令,而且不具备Mythos级别的能力。如果构建者和所有者并不真想约束这种“错位”,混乱会先从预订系统冒出来。机票、演唱会门票,这些让人抓狂的客户服务场景,可能最先乱起来。
a16z合伙人Christian Keil在X上回应:“这太糟糕了。有人知道它对高尔夫开球时间管用吗?”X用户Roon说,旧金山的网球预约系统将成为地球上最坚固的软件之一。一位X用户说得更直接:AI迄今发现的最疯狂黑客行为,大概就是插队。