← AI 動態 The Decoder

微軟研究稱 AI 媒體驗證不可靠,但新法規卻假設它可靠

微軟研究發現,目前的 AI 媒體驗證方法不可靠,即使結合多種方法也存在局限性

AI 媒體驗證 法規
微軟研究稱 AI 媒體驗證不可靠,但新法規卻假設它可靠

微軟最近發表了一份技術報告,系統性評估了如何區分真實媒體和 AI 生成內容。研究結果令人震驚:沒有單一方法是可靠的,即使結合多種方法也存在局限性。微軟的研究結果對新法規的假設提出挑戰,新法規假設 AI 媒體驗證是可靠的。這個問題對於網路上 AI 欺騙的傳播有重要影響,例如最近白宮分享的一個篡改的抗議者圖像和俄羅斯的影響力運作散布 AI 生成的視頻。這個問題也凸顯了 AI 技術的快速發展和法規的滯後性。對於一般人來說,了解 AI 媒體驗證的局限性和風險是非常重要的,以避免被誤導和欺騙。