← AI 動態
The Decoder
OpenAI首款自研晶片Jalapeño曝光，推論效能擊敗輝達！
OpenAI 發表首款自研推論晶片「Jalapeño」，專門用於運行 AI 模型。測試顯示其效能與能效皆超越輝達最新晶片，將大幅降低 AI 運行成本。
OpenAI
AI晶片
硬體加速
OpenAI 在 Hot Chips 大會上展示了首款自研 AI 晶片「Jalapeño」。不同於用於「訓練」AI 的晶片，Jalapeño 專注於「推論」（也就是讓 AI 實際回答問題、生成內容的過程）。令人驚豔的是，它是一款通用的語言模型加速器，並非只綁定 OpenAI 自己的模型。
根據最新測試，Jalapeño 在處理吞吐量與能源效率上，擊敗了 AI 晶片霸主輝達（Nvidia）的 Blackwell 甚至下一代的 Rubin 晶片。它能在每瓦功耗下提供高達 1.5 到 1.9 倍的 AI 運算量，這意味著運行 AI 的電費與硬體成本將大幅降低。
對一般大眾與企業而言，這項硬體技術的突破意義重大。這代表未來使用 ChatGPT 等生成式 AI 工具時，不僅回覆速度會更快，企業導入 AI 的伺服器成本也能顯著下降，將進一步加速 AI 應用在各行各業的普及。