微軟將Maia作為主要AI推理晶片,Maia 300於2027年投產

CNBC · 5 小時前
微軟將Maia作為主要AI推理晶片,Maia 300於2027年投產
  • 微軟表示,將主要使用其於週一釋出的第三代Maia AI加速器處理傳入的AI請求,從而減少對英偉達GPU的依賴。
  • 微軟的目標是在整個Maia晶片家族中實現多吉瓦級部署,Maia 300將於2027年開始量產。
  • 微軟預計每個資料中心機架可容納96顆Maia 300晶片,是Maia 200數量的兩倍;每機架的AI token數量最多可達七倍,每兆瓦的token數量比GPU多40%。
  • Evercore ISI估計,到2027年第一季度,Maia將佔微軟AI晶片支出的約10%。
  • 英偉達仍是微軟計劃的一部分,微軟與英偉達和超微半導體合作進行模型訓練。
  • 與谷歌TPU或亞馬遜的Inferentia和Trainium不同,微軟的加速器不能按小時出租給其他公司。

引述

“我們需要新的架構,從根本上帶來更好的效能,更好地利用我們現有的電力”— Alistair Speirs
“目前還沒有人在微軟之外測試過它們”— Patrick Moorhead

來源