← AI 動態
The Decoder
Google衛星圖像AI遭造假濫用，上線兩天即下架
Google 日前在 Google Earth 推出 AI 圖像生成功能，卻被用戶輕易用來製造逼真的難民潮與戰區假照片。因引發嚴重的假訊息疑慮，功能上線僅兩天便遭下架。
AI倫理
假訊息
生成式AI
Google 近期在 Google Earth 中整合了名為 Nano Banana 2 的生成式 AI 模型。這項新功能原本立意良善，讓使用者能透過簡單的文字提示，在空地上模擬未來的建築物，或是將古代遺跡還原成過去繁華的街道場景，是一個極具潛力的視覺化工具。
然而，這項技術上線後立刻遭到濫用。使用者發現，只需輸入簡單的指令，就能輕易在邊境地帶生成虛假的難民潮，甚至在戰區偽造出被炸毀的醫院。這些逼真的假衛星圖像若被有心人士利用，將引發嚴重的錯假訊息傳播危機，迫使 Google 在短短兩天內緊急將該功能下架。
這起事件強烈凸顯了 AI 治理與資訊安全的重要性。當生成式 AI 工具變得越來越普及且易於操作時，若缺乏完善的安全審查與防護機制，極易成為製造假新聞的溫床。這提醒我們在享受 AI 帶來便利的同時，更需建立防範技術潛在風險的素養。