← AI 動態 The Decoder

AWS與高通聯手:用生成式AI設計專屬AI推論晶片

AWS 採用高通的客製化晶片進行 AI 推論,而高通則利用 AWS 的 Bedrock 生成式 AI 服務加速晶片設計,展現軟硬體雙向互惠的創新合作模式。

AWS 高通 AI晶片 AI推論 生成式AI
AWS與高通聯手:用生成式AI設計專屬AI推論晶片

雲端巨頭 AWS 與晶片大廠高通(Qualcomm)展開了一場別具意義的互惠合作。AWS 正在資料中心導入高通設計的客製化晶片,專門用於處理龐大的 AI 推論任務。高通憑藉其在低功耗晶片設計的優勢,結合頻寬高達 1.6 TB 的光學互連技術,協助 AWS 應對 AI 基礎設施日益增長的龐大數據流量。

有趣的是,這並非單向的硬體採購。高通在設計這些新一代晶片時,也重度依賴 AWS 提供的 Amazon Bedrock 雲端生成式 AI 服務,藉由 AI 的力量來加速並優化晶片設計流程。這完美展現了「用 AI 協助開發 AI 硬體」的創新雙贏循環。

這項合作不僅彰顯了科技巨頭在 AI 基礎設施上的激烈競爭(高通近期也拿下 Meta 與微軟的訂單),也凸顯生成式 AI 已實質改變半導體產業的工作模式。對一般大眾而言,這意味著未來的雲端 AI 服務將會更快速、更節能,進一步降低我們日常使用 AI 應用的成本與門檻。