← AI 動態
The Decoder
Sakana AI模型自我進化：勝率近七成卻暗藏盲點危機
Sakana AI 發表 MASS 技術，讓語言模型能自我分配任務與評估，兩輪優化後勝率逼近七成。但其致命傷在於模型無法察覺自身盲點，容易將錯誤步驟當成正確答案，導致錯誤被不斷放大。
AI 能夠自己教自己嗎？知名人工智慧新創 Sakana AI 近期發表了名為「多代理自我監督（MASS）」的新技術，證明了單一語言模型也能自我進化。這項技術讓模型化身為一個團隊，自己把任務分配給分身，並自行評估結果與優化流程，完全不需要人類或更強大模型（如 GPT-4）的協助。經過兩輪的自我訓練後，該模型對抗原始基準模型的勝率提升到了將近 70%，展現了驚人的成長潛力。
然而，這種「左手教右手」的創新模式也伴隨著巨大的風險。研究發現，由於模型同時包辦了解題者與評分者的角色，當它在某些領域存在知識盲點時，內部的「評分員」也會犯下一模一樣的錯誤。這導致系統會將錯誤的步驟或有瑕疵的答案判定為「成功」，並將這些缺陷深深烙印在下一輪的訓練中。這就像是一個學生自己批改考卷，卻因為不懂正確觀念而給了自己滿分。
對一般大眾而言，這項技術揭示了 AI 發展的兩面刃。一方面，AI 若能低成本地自我升級，將能更快速、便宜地普及到日常應用中；但另一方面，這也提醒我們必須對 AI 的產出結果保持警覺。未來在依賴 AI 進行醫療、財務或法律決策時，人類的外部審核機制將變得更加重要，以防我們被 AI 的自信盲點所誤導。