← AI 動態
The Decoder
OpenAI 暫停開發 Astra 模型，因其可能達到最高的網絡安全風險級別
OpenAI 的新 AI 模型 Astra 的網絡安全能力太強，可能導致無人干預的網絡攻擊
AI
網絡安全
風險管理
OpenAI 的新 AI 模型 Astra 的網絡安全能力太強，可能達到最高的網絡安全風險級別，即 ‘Critical’，這意味著該模型可以獨立開發和執行網絡攻擊，不需要人類干預。為此，OpenAI 暫停了 Astra 部分的開發，並將實施更嚴格的安全控制、隔離的測試環境和監控系統，以自動停止風險活動。這一舉動是為了防止 Astra 模型被用於惡意目的，並確保其安全性。該事件凸顯了 AI 技術的雙刃劍特性，同時也強調了 AI 研發中安全性和倫理的重要性。