据The Information报道,Google正与Marvell洽谈开发两款新型芯片,以提升AI模型运行效率。其中一款是配合Google TPU运作的存储器处理单元,另一款则是专为AI推论设计的新型TPU。这一合作旨在摆脱对博通的长期依赖,同时借助Marvell在CXL存储器管理和LPU设计方面的技术优势,优化数据中心运算效率。
Google此前曾采购Marvell的现成芯片,但此次讨论的重点转向定制化半导体。这表明Google希望打破博通作为TPU唯一设计伙伴的局面,实现供应链多元化。据知情人士透露,2023年曾有消息称,Google考虑将数据中心网络界面芯片的供应商从博通更换为Marvell。
NVIDIA在3月GTC大会上发布了基于Groq授权技术的语言处理单元(LPU),专为优化推论工作负载设计。Google在NVIDIA推出LPU后加速了推论芯片的开发进程。Marvell作为Groq第一代LPU的设计伙伴,被认为具备相关技术实力。此外,Google曾向Marvell采购CXL控制器芯片,用于管理服务器存储器共享,这段合作经历增强了Google对Marvell设计能力的信心。
据悉,新款存储器处理单元将与TPU协同作业,根据运算与存储器需求分摊任务。双方目标是在2027年敲定设计并进入试产。Google计划生产近200万个存储器处理单元,但具体数字仍可能随讨论进展变动。相比之下,摩根士丹利预计Google在2027年的TPU产量约为600万个。
目前,Google的芯片在台积电生产,但未来新产品是否继续由台积电代工尚不明确。Google过去仅将TPU用于内部业务及云端服务客户,但从2025年起,Google开始外租TPU,挑战NVIDIA的市场地位,并已吸引Meta和苹果等客户。
AI公司正通过使用不同类型的推论芯片来克服运算与存储器移动的速度瓶颈,以降低成本并提升效能。例如,OpenAI已投入超过200亿美元采购Cerebras的芯片。尽管Google持续与联发科、Marvell等公司接触以分散对博通的依赖,但博通近期已与Google续约至2031年,目前仍维持其核心设计合作伙伴的地位。