微软将Maia作为主要AI推理芯片,Maia 300于2027年投产

CNBC · 5小时前
微软将Maia作为主要AI推理芯片,Maia 300于2027年投产
  • 微软表示,将主要使用其于周一发布的第三代Maia AI加速器处理传入的AI请求,从而减少对英伟达GPU的依赖。
  • 微软的目标是在整个Maia芯片家族中实现多吉瓦级部署,Maia 300将于2027年开始量产。
  • 微软预计每个数据中心机架可容纳96颗Maia 300芯片,是Maia 200数量的两倍;每机架的AI token数量最多可达七倍,每兆瓦的token数量比GPU多40%。
  • Evercore ISI估计,到2027年第一季度,Maia将占微软AI芯片支出的约10%。
  • 英伟达仍是微软计划的一部分,微软与英伟达和超微半导体合作进行模型训练。
  • 与谷歌TPU或亚马逊的Inferentia和Trainium不同,微软的加速器不能按小时出租给其他公司。

引述

“我们需要新的架构,从根本上带来更好的性能,更好地利用我们现有的电力”— Alistair Speirs
“目前还没有人在微软之外测试过它们”— Patrick Moorhead

来源