← AI 動態
The Decoder
從GPT-2到Claude Mythos：AI模型「太危險」不敢釋出
七年前，OpenAI宣布GPT-2太危險不敢釋出，現在Anthropic也宣布Claude Mythos Preview太危險，理由是它可以找到數千個操作系統和瀏覽器的漏洞
AI
生成式AI
安全性
2019年，OpenAI宣布GPT-2可以生成非常逼真的假新聞，因此決定不釋出。現在，Anthrropic宣布Claude Mythos Preview也太危險，不敢釋出。原因是它可以找到數千個操作系統和瀏覽器的漏洞。這個AI模型的能力太強大，幾乎沒有人能夠檢查它的輸出。這個事件引發了對AI安全性的關注，特別是在生成式AI的應用中。生成式AI可以創造出非常逼真的內容，包括文字、圖片和影片，但是它也可能被用來創造惡意內容，例如假新聞和病毒。因此，如何確保生成式AI的安全性和倫理性，是一個非常重要的問題。