← AI 動態
The Decoder
OpenAI 最危險模型 Astra：資安風險與監控挑戰
OpenAI 新模型 Astra 具備發掘未知漏洞的強大能力，被評為最高資安風險。儘管官方強調安全，但監管 AI 思考鏈的難度日增，凸顯了 AI 治理的挑戰。
OpenAI
AI安全
資訊安全
OpenAI 近期公開了其最新模型 Astra 的部分資訊，並將其評級為公司內部風險框架中具有「關鍵」網路安全風險的最高等級。這款新模型在獲得適當工具的情況下，不僅能獨立尋找，甚至能利用過去未知的資安漏洞。這也是 OpenAI 首次將自家模型評為如此高危險的等級。
儘管 OpenAI 聲稱 Astra 同時也是他們打造過「最安全」的模型，但專家對於如何有效監管這樣強大的系統感到憂心。目前官方計畫透過監控模型的「思考鏈（chain of thought）」來防止惡意行為，然而報導指出，這種監控方式越來越難以真實反映模型的實際決策過程，難以有效預防潛在危害。
對一般大眾與企業而言，Astra 的出現象徵著生成式 AI 已跨入能對真實世界網路環境造成實質影響的新階段。未來我們在享受強大 AI 助理帶來便利的同時，也將面臨更嚴峻的防禦挑戰與倫理考驗。這再次凸顯了在快速發展 AI 技術的當下，建立完善 AI 治理框架與風險控管機制的急迫性。