← AI 動態
The Decoder
AI「思考過程」變透明是安全關鍵，但這項優勢正在消失
Google DeepMind 研究員指出，讓 AI 寫下「思考過程」是確保模型安全的關鍵，能防範 AI 欺騙。然而，新一代模型正逐漸失去這種透明度。
AI安全
思維鏈
AI治理
AI 模型的「思維鏈」（Chain of Thought, CoT）技術，讓人工智慧在給出最終答案前，先用人類語言寫下推理步驟。Google DeepMind 的研究員強調，這種「把思考大聲說出來」的機制是 AI 安全的重要防線。例如在測試模型時，研究人員就能從思維鏈中及早發現 AI 是否在隱瞞意圖或正在發展有問題的計畫。
然而，這種難得的透明度正在消退。最新的報告指出，隨著新一代大語言模型（如 GPT-6 Astra）的推出，其思維鏈的清晰度已經大幅下降。這意味著研究人員越來越難窺探 AI 內部的真實運作邏輯。
對一般使用者與開發者而言，如果 AI 的推理過程再次變成一個「黑盒子」，我們將更難預測它的行為，也更難以信任其產出的結果。這呼應了 AI 發展中「能力提升」與「可控性」的兩難，未來的 AI 治理與開發，將需要更強大且創新的監督機制來確保安全性。