← AI 動態
The Decoder
OpenAI 員工討論是否通知加拿大警方關於 ChatGPT 暴力內容
OpenAI 員工曾討論是否通知加拿大警方關於一名用戶在 ChatGPT 上描述槍械暴力情景
AI
OpenAI
ChatGPT
暴力內容
根據報導，約十名 OpenAI 員工曾討論是否通知加拿大警方關於一名用戶在 ChatGPT 上描述槍械暴力情景。自動審查系統曾標記並升級這些帖子，但 OpenAI 管理層最終決定不將此事通知警方。這個決定引發了對 AI 平台負責任的質疑。這個事件凸顯了 AI 平台在監管和倫理方面的挑戰，尤其是在處理可能對他人造成傷害的內容時。這個案例也引發了關於 AI 公司在保護用戶安全和隱私方面的責任的討論。