AI Pulse

Google Earth的AI能生成假卫星图,上线不久就被撤

Google Earth的AI能生成假卫星图,上线不久就被撤

上线与撤回

Google Earth 的 AI 图像生成功能上线没多久就被撤了。这个功能可以生成以假乱真的卫星图。Google 在声明里说,它看到地理空间专业人士拿这个功能派上用场,也看到有人分享疑似违反政策的生成图像,所以决定先回滚,再上更强的防护栏。

这个功能只活了一小段时间,但留下的担忧不小。Ess 说,把 AI 图像生成器放进 Google Earth,有风险让公众对 Google Earth 作为真实世界影像可靠来源的信任受损。政府官员或者任何想否认真实卫星照片的人,都多了一个现成借口:图片是 AI 改的,或者干脆是 AI 生成的。对记者和研究人员来说,核查错误信息和虚假信息的难度也跟着变大。

Ess 还发现,Google 的政策本应阻止 AI 生成涉及有害议题的图像,但没拦住。他自己就生成过加沙医院被炸弹炸出坑的场景。

水印的局限

Google 有数字水印系统 SynthID。Ars 之前做过测试,SynthID 水印在图片经过大幅编辑和数据丢失后还在。但它有现实限制:SynthID 每天只能做大约 10 次图像检查。

Ars 实测时,Gemini 能识别出 Google Earth 生成的 AI 修改图带有数字水印;可换成用智能手机拍这张图后,SynthID 就什么都验证不出来了。

Ess 对这种靠 SynthID 水印和 Google AI 工具验证的做法表示怀疑。假图在传播时,不会作为干净文件带着完整凭据到处走。它们常见的形态是屏幕录制、重新编码、截图的截图、匆忙间对着别人手机屏幕翻拍的照片。

多源验证与未来

Ess 的建议是,验证卫星影像要多来源交叉比对,并依赖持续更新的影像源,比如欧洲的 Copernicus Sentinel-2。

Google 的声明没有说具体要加什么防护,只说要上更强的护栏。功能上线时吸引来专业用途和违规使用,撤掉不等于问题解决。Google 也没有把门关死,声明暗示未来可能重新推出,要等新的防护措施就绪。

阅读原文
📚 相关主题 科技行业信息安全

订阅 AI Pulse

每天 08:00 · 12:30 · 18:30 · 23:50 更新