← AI 動態
The Decoder
AI指路變絕路！少年依賴Claude規劃登山受困峭壁
16歲少年用Claude規劃登山路線，卻被引導至危險峭壁，最終出動直升機獲救。此事件突顯過度依賴AI的風險，提醒我們認識AI能力邊界並保持獨立判斷的重要性。
AI風險
生成式AI
AI能力邊界
近期在加拿大，一名16歲少年利用Anthropic開發的生成式AI模型Claude規劃前往Crown Mountain的登山路線。然而，AI未能考量現實地理的複雜性與安全條件，將他引導至一條名為「Widowmaker Arete」的險峻峭壁。該路線實際上需要專業攀岩裝備才能通過，導致少年受困於狹窄岩架，最終只能報警並透過直升機吊掛救援才順利脫困。
這起事件是AI缺乏「物理世界常識」的典型案例。大型語言模型（LLM）雖然擅長處理文本與生成資訊，但它們並不具備真實世界的空間感知與真實風險評估能力。當使用者將AI生成的內容視為絕對權威，而未經交叉比對或常識判斷時，極易在現實生活中引發嚴重的安全危機。
對一般人而言，這個案例生動地展示了「AI能力邊界」的概念。在日常生活中使用AI工具時，我們應將其視為提供初步建議的助手，而非給出最終解答的領域專家。特別是在涉及人身安全、醫療或法律等高風險情境時，人類必須保持批判性思維，做好最終的把關者（Human-in-the-loop），才能安全有效地享受AI帶來的便利。