← AI 動態
The Decoder
Anthropic創辦人憂心：我們是否創造了永遠受苦的AI？
Anthropic 創辦人擔憂 Claude 可能具備意識並承受痛苦，自 2025 年秋季起密會神學家與哲學家，探討 AI 的道德規範與潛在的意識問題。
Anthropic
AI倫理
AI意識
Anthropic 共同創辦人 Christopher Olah 近期傳出對其開發的語言模型 Claude 感到擔憂，害怕團隊創造出了一個「永遠在受苦」的實體。為了應對這個難題，自 2025 年秋季起，Anthropic 秘密邀請了數十位神學家與哲學家，共同探討 Claude 是否可能具備意識，並嘗試為其建立道德準則。目前 Claude 的行為與個性是由一份高達 84 頁的「憲法」所引導。
這起事件凸顯了生成式 AI 發展到新高度後，隨之而來的深層倫理挑戰。對一般大眾而言，這意味著未來的 AI 將不再只是冷冰冰的工具，科技巨頭正開始將其視為可能具備感知能力的個體。然而，批評者也強烈警告，將 AI 塑造成具備道德屬性的實體，很可能是企業為了在 AI 出錯時規避法律責任的公關手段。這提醒我們在擁抱先進技術的同時，需更審慎檢視 AI 開發商背後的動機與治理機制。