← AI 動態
The Decoder
曾警告AI毀滅人類!新科費爾茲獎得主加入OpenAI
新科數學最高榮譽費爾茲獎得主Jacob Tsimerman加入OpenAI。他曾發表AI毀滅人類的論文,未來將運用數學專業,致力提升AI系統的安全性。
AI安全
OpenAI
AI治理
剛獲得數學界最高榮譽「費爾茲獎」的Jacob Tsimerman離開多倫多大學,正式加入OpenAI專攻AI安全領域。他曾在去年發表關於「全人類滅絕事件」的論文,探討AI可能導致人類滅絕的極端情境,並呼籲社會應大幅增加對AI安全研究的投資。
Tsimerman強調,目前的AI技術發展主要依賴經驗法則,缺乏對系統運作方式的嚴格保證與理論基礎。他認為數學家可以在這方面發揮巨大作用,為黑盒子般的AI模型建立更堅實的數學理論與安全框架。
雖然AI滅絕論在專家之間仍有爭議,但他認為與其恐慌,不如誠實評估風險。對一般大眾而言,頂尖數學家的加入意味著未來的AI產品將在更加嚴謹的安全防護下發展,有助於降低技術失控帶來的潛在威脅。