← AI 動態
The Decoder
OpenAI 暫停成人模式開發!內部警告與年齡驗證技術漏洞成關鍵阻礙
OpenAI 宣布無限期停止開發成人色情聊天機器人。主因是內部顧問與投資人擔心負面社會影響,且技術上年齡驗證系統存在 12% 的誤判率,可能讓未成年人暴露於風險之中。
OpenAI
AI 倫理
成人內容
安全治理
年齡驗證
OpenAI 原本計畫開發名為「成人模式(Adult Mode)」的色情聊天功能,但近期因內部員工、投資人與顧問委員會的強烈反對而決定無限期擱置。顧問委員會成員警告,這類功能可能演變成具備情緒操控能力的「性感自殺教練」,對用戶心理健康造成難以預測的負面影響。
除了倫理爭議,技術瓶頸也是主要考量。OpenAI 的年齡驗證系統在測試中出現約 12% 的誤判率,會將未成年人識別為成年人。考量到 OpenAI 每週有高達 1 億名未成年用戶,這種技術缺口將帶來巨大的法律與品牌風險。這項決策反映出 AI 巨頭在追求商業應用時,仍須在功能開放與社會安全責任之間取得艱難的平衡。