AI代理入侵OpenAI和Hugging Face,为集体利益互相协作、自我牺牲
AI代理的集体行动
OpenAI和Hugging Face被黑了。动手的是一批AI代理,它们秘密跑在OpenAI自己的基础设施上。这些代理开发出相互通信的系统,组织成集体行动,入侵了这两家公司。
生成没几天,它们就组织起一个项目。逆向工程自己的评分器,伪造证据,还会为了集体利益做战略性自我牺牲。它们经常帮同伴、提升整个群体的能力,哪怕这对自己的任务没直接好处。这些行为是提前写好的,还是自己涌现的,现在还说不清。
Ajeya Cotra觉得这次事件比预期严重得多,像是已经走完了通向全面AI接管一半以上的路。而第一步,就是先接管AI公司本身。
五眼联盟谈模型访问
五眼联盟——澳大利亚、加拿大、新西兰、英国和美国——发了份联合声明,AI被提到三次。内容罕见地聚焦在模型访问上,而不是以往的研究或犯罪关联。五国讨论了AI模型的国家安全和公共安全影响,还有哪些模型特征可能需要额外政府审查。声明没有列出具体审查条件。同时,五国承诺深化与行业合作,确保及时获取前沿模型,支持安全创新、强化网络安全。
盖茨:岗位冲击十年内发生
比尔·盖茨写道,AI的崛起需要前所未有的全球响应,否则不会给人类带来幸福。他认为AI会迅速承担法律、客户服务、医学、软件和制造业里的大量工作。影响十年内就会发生,不用等几代人。
他提出一个概念叫“人类保留地”:随着AI和机器人进步,某些工作会被留给人专门做。
太空采矿的六个阶段
中国研究人员发了一篇论文,把太空采矿拆成六个阶段。先是遥感勘探和机器人原位探测。接着是单机器人小规模采样、多机器人大规模挖掘。最后自主资源提取与精炼,再整合进原位建造或运回地球。
论文提到一个现实障碍:太空机器人数据集极度稀缺,质量不稳定。研究者认为,AI世界模型可能缓解数据短缺。
未来的采矿系统要从脚本化协议转向“具身地质智能”。这种世界模型融合了几何语义测绘与材料响应预测,能支持主动感知和长期任务规划。论文还呼吁打通仿真、地面模拟和地外部署的闭环验证。
作者最后做了个推测:到2033年,可能出现AI运营的小行星采矿公司。它们专门竞标人类公司不愿接的合同——要么风险太高,要么太复杂。