据媒体报道,微软正大力推广其最新研发的Maia 200芯片,声称该芯片在部分AI推理任务中的成本低于英伟达同类产品。
AI推理是指运行已训练完成模型的计算过程,与模型训练所需的计算需求不同。随着人工智能企业的逐步成熟,推理成本在整体运营成本中的占比持续攀升,行业对优化推理流程的需求也日益迫切。微软希望Maia 200能够成为这一优化的关键推动力,帮助AI企业实现更高效的业务运行和更低的能耗。
作为2023年推出的Maia 100的升级版,Maia 200在技术上实现了显著提升。这款芯片集成了超过1000亿个晶体管,4比特精度下的算力超过10 petaflops,8比特精度算力约为5 petaflops,性能较上一代大幅提升。微软表示,单节点Maia 200能够轻松运行当前规模最大的AI模型,同时为未来更大规模的模型运算预留了充足算力空间。
微软强调,这款芯片不仅提升了运行速度,还显著提高了能效,能够更好地满足高性能AI模型的需求。