微軟(Microsoft)於 10 月 12 日發表第三代自研 AI 加速器 Maia 300,預計 2027 年起在 Azure 展開多吉瓦級的大規模生產部署,成為未來微軟服務的主要推論系統。
這項舉動反映出雲端巨頭正將「AI 推論成本、HBM 記憶體供應與資料中心電力瓶頸」整合為單一硬體戰略,以降低對單一供應商的依賴。
核心重點摘要
- 製程與技術升級:採用台積電 2 奈米級製程與小晶片(Chiplet)設計,並首度搭配 8 組 HBM4 高頻寬記憶體,全面提升每瓦與每美元的運算效率。
- 官方宣稱效能:在 96 顆晶片的完整機櫃下,詞元(Token)吞吐量最高可達前代 Maia 200 的 7 倍;相較於現行領先的 GPU 系統,每兆瓦電力可多處理 40% 的詞元(註:兩者比較基準不同)。
- 多元供應商策略:此舉並非全面取代 NVIDIA 或 AMD,Azure 未來仍會混用外部晶片。微軟旨在增加供應選項,以控制自身 AI 服務的推論成本。
- 資料中心電力考驗:路透社報導微軟明年可能部署逾 100 萬顆晶片。以 96 顆一櫃耗電約 167 千瓦(kW)計算,AI 暴增的需求正將瓶頸推向電力與散熱。
