← AI 動態
The Decoder
前OpenAI研究員押注1000億美元投資訓練數據
前OpenAI研究員Andrew Ho認為，大規模語言模型的發展需要高質量的訓練數據，而不是僅僅擴大模型的規模
AI
訓練數據
大規模語言模型
前OpenAI研究員Andrew Ho和劍橋研究員Adam Hunt認為，大規模語言模型的發展正面臨著一個問題，即模型越來越專業化，對特定任務的表現越來越好，但對其他任務的表現卻停滯不前甚至倒退。為了解決這個問題，Ho創立了一家新公司，專注於生產高質量的訓練數據。該公司正在為生物信息學和實驗室工作建立特殊的數據集，認為現有的數據源無法滿足AI系統可靠運行的需求。這一觀點得到了劍橋大學和谷歌Deepmind研究人員的支持，他們發現現有的AI模型在某些任務上表現不佳。這一發展對於AI的未來發展具有重要意義，因為高質量的訓練數據是實現AI的真實普遍性的關鍵。 Ho押注1000億美元將流入訓練數據的發展，表明了他對此的信心