隨著生成式AI從模型訓練轉向大規模推論服務，運算效能、能源效率及系統整合能力成為雲端基礎設施競爭核心。微軟推出新一代AI推論平台Maia 300，預計2027年將Azure Maia系列擴展至數GW（Gigawatt）規模，逐步成為旗下產品與服務的主要AI推論系統，並透過晶片、記憶體、網路及軟體協同設計，提升大型AI工作負載的運作效率。
Maia 300距前代Maia 200推出不到一年，採用多晶粒（Chiplet）架構，核心運算晶粒導入台積電N2P先進製程，搭配HBM4高頻寬記憶體，強化運算與資料傳輸能力。隨著AI模型上下文長度增加，以及多步驟AI代理（Agentic AI）應用普及，系統必須同時滿足長時間推理、低延遲互動及高頻寬資料存取需求。
Azure Maia 300 原型晶片(來源:微軟)
|
根據微軟公布的效能目標，Maia 300每兆瓦（MW）Token處理量預期較前代提升40%，在配置96顆加速器的完整機櫃系統中，Token處理量最高可達Maia 200的7倍，凸顯AI運算競爭正由單顆晶片效能轉向機櫃級整體效率。
微軟表示，Maia 200已部署於美國、歐洲及澳洲，支援Teams、Copilot與Cowork等AI功能，並應用於GitHub多步驟代理工作、Microsoft Foundry模型服務及Dragon Copilot醫療工作流程。依原廠測試，Maia 200每瓦Token處理量最高可達部分頂尖GPU基礎架構的1.7倍。
Maia 300採用先進製程、Chiplet與HBM4整合，將同步提高對於供應鏈中的先進封裝、載板、高速互連、電源管理及液冷系統的技術要求。對台灣半導體與AI伺服器業者而言，未來競爭重點將由晶片製造延伸至高密度封裝、機櫃電力配置與整體系統可靠度。
