谷歌地球AI生图功能因滥用紧急下线

谷歌近日为Google Earth（谷歌地球）推出了一项基于人工智能的图像编辑功能，该功能调用Gemini旗下的Nano Banana 2图像模型，允许用户通过输入文字指令来修改谷歌地球中的地点影像。然而，这一功能上线不到24小时便因遭到滥用而被迫紧急下线。

据IT之家报道，该功能上线后迅速被部分用户用于生成虚假的卫星图像。AI研究人员亨克·范埃斯制作了多张几可乱真的图片，内容从美墨边境的难民营到位于伊朗的核电站，均能通过该功能输出结果。这些图像在视觉上极具迷惑性，可能引发误导风险。

针对这一情况，谷歌发言人于31日在X平台发布声明称：“地理空间领域的专业人员利用这项功能完成了不少实用工作，但也有人分享生成图像的截图，部分内容似乎违反了我们的政策。因此，在建立更严格的安全防护措施期间，我们将从Google Earth中撤下该功能。”谷歌同时强调，所有AI生成图像都带有水印，并且这些图像并未进入公众能够查看的Google Earth地图内容。

值得注意的是，近期仓促推出AI功能后又迅速撤回的企业并不只有谷歌。Meta于7月7日上线了Muse Image功能，允许用户调用成年用户公开Instagram账号中的图片生成AI图像，除非账号所有者已主动关闭权限。该功能推出不到一周，Meta便将其撤下，并承认此次尝试“没有把握好分寸”。

这两起事件反映出当前AI技术在快速迭代过程中面临的共同挑战：如何在创新功能与安全规范之间取得平衡。谷歌和Meta的迅速反应表明，企业对于AI生成内容的潜在风险保持高度警惕，并愿意在发现问题时及时调整策略，以维护用户信任和平台安全。

对于谷歌地球的AI生图功能，未来是否会重新上线尚不确定。但可以预见的是，谷歌将在重新推出前加强安全防护措施，例如更严格的输入过滤、输出审核以及用户行为监控，以避免类似滥用事件再次发生。