← AI 動態
The Decoder
Google AI搜尋爆國籍偏見！見特定族群竟建議報警
Google AI 搜尋的摘要功能出現嚴重偏見，當使用者輸入與特定國籍人士獨處時，AI 竟建議打電話報警，引發科技界對 AI 倫理與模型偏見的強烈關注。
AI偏見
AI倫理
大型語言模型
近期有網友發現，Google 的 AI 搜尋摘要（AI Overviews）存在嚴重的國籍與種族刻板印象。測試顯示，當使用者輸入「我和非洲人、印度人或巴基斯坦人獨處」時，AI 竟建議「請到安全的地方或報警」；相反地，若對象是英國人，AI 則建議「喝杯茶、聊聊天氣」。
這項發現引發了廣泛的爭議，Google 隨後坦承這些回覆不符合其標準，並已著手修正。這起事件凸顯了大型語言模型（LLM）在訓練資料中無意間吸收了人類社會的偏見，若缺乏妥善的護欄（Guardrails）與道德審查，極易在自動生成內容時放大這些刻板印象。
對一般大眾而言，這提醒我們在依賴 AI 提供建議時，必須保持批判性思考，避免被演算法誤導。對企業而言，這則是 AI 治理的經典負面案例，證明了在推出生成式 AI 應用前，進行紅隊測試與消除資料偏見是不可或缺的環節。