谷歌暂停地图AI图像生成功能强化安全防护

谷歌近日宣布，暂停Google Earth中新上线的AI图像生成功能，该功能上线不足48小时便因潜在的虚假信息风险被暂时关闭。官方表示，将进一步加强安全防护措施，以应对生成式AI在高可信度信息场景中带来的挑战。

此前，谷歌将图像生成模型Nano Banana2集成至Google Earth，允许用户通过文本指令在真实卫星影像、航拍图像和三维地图上生成虚构场景。这一功能本意是为用户提供更丰富的创作体验，但很快引发了关于深度伪造和虚假信息传播的担忧。

根据英国广播公司（BBC）的测试，该功能能够生成包括“埃菲尔铁塔倒塌”“巨大天坑吞没埃及金字塔”以及“俄军坦克出现在基辅”等虚假场景，并可直接下载和分享。这类AI生成内容与真实地理坐标及Google Earth底图结合后，具有较强的真实性，容易被误认为是真实卫星影像，从而对信息核验带来新的挑战。

安全专家指出，在战争、自然灾害等敏感事件中，这类高度逼真的合成地图可能被用于传播虚假信息，误导公众、媒体甚至调查人员。例如，一张伪造的灾害现场地图可能引发不必要的恐慌，或被恶意利用以干扰救援工作。因此，如何平衡AI创作能力与安全防护，成为AI产品落地过程中必须解决的关键问题。

谷歌表示，所有AI生成图像均嵌入了隐形数字水印，并支持通过Gemini或Google Lens进行真实性验证。然而，BBC测试发现，部分验证机制仍存在被绕过的可能，一些第三方检测工具也无法稳定识别AI生成内容。这表明，现有的技术手段尚不足以完全应对深度伪造的挑战。

此次暂停服务反映出，随着生成式AI逐步进入地图、遥感等高可信度信息场景，如何在提升创作能力的同时防范深度伪造和虚假信息传播，正成为行业关注的焦点。谷歌此次的快速响应，也体现了科技企业在AI安全方面的责任意识，但未来仍需更完善的解决方案来保障信息的真实性与可靠性。