← AI 動態
The Decoder
用數學證明AI安全？費爾茲獎得主創立專屬研究所
新科費爾茲獎得主創辦「數學AI安全研究所」(MAISI)，期望如同密碼學一般，透過嚴謹的數學方法證明AI安全性，突破現有測試框架的侷限。
AI安全
數學證明
科技治理
剛獲得數學界最高榮譽「費爾茲獎」的加拿大數學家 Jacob Tsimerman，宣布將於 2027 年在舊金山灣區創立「數學 AI 安全研究所」（MAISI）。這家獨立研究機構預計招募數十位頂尖數學家，Tsimerman 本人也同時加入 OpenAI 的安全團隊，致力於推動比現階段更高標準的 AI 安全規範。
目前的 AI 安全評估多半仰賴不斷試錯與攻擊測試（如紅隊演練），但這種做法始終無法窮盡所有潛在威脅。這項計畫之所以重要，在於它借鑒了密碼學的核心概念：加密技術不需要去嘗試抵禦每一種攻擊手法，就能直接用數學證明其牢不可破。MAISI 期望能為 AI 領域找到類似的數學捷徑，從理論根基上嚴格「證明」AI 系統的安全性，而不僅僅是依賴事後的經驗防堵。
對一般大眾與企業而言，AI 系統正快速整合進日常生活與商業運作中，其穩定與安全性至關重要。若未來能以嚴謹的數學公式劃定 AI 的行為邊界，將能大幅降低模型失控或遭到惡意濫用的風險，為負責任的 AI 發展提供最堅實的後盾。