据知情人士透露，OpenAI对英伟达最新部分AI芯片的性能并不满意，并自去年起开始寻找替代方案。这一举动可能使两家备受瞩目的AI公司之间的关系趋于复杂。
英伟达在训练大型AI模型的芯片领域占据主导地位，但AI推理正成为新的竞争焦点。推理是指AI模型响应用户查询和请求的过程。OpenAI的战略调整表明，其越来越关注用于特定推理任务的芯片。
OpenAI对英伟达硬件处理特定问题（如软件开发和AI通信）的速度表示不满，计划通过新硬件满足未来约10%的推理计算需求。据悉，OpenAI已与Cerebras和Groq等初创公司探讨合作，但英伟达与Groq达成200亿美元授权协议，终止了相关谈判。
英伟达表示，客户选择其推理芯片是因为其性能和成本优势。OpenAI发言人也称，英伟达仍是其绝大多数推理集群的首选。然而，OpenAI内部对Codex产品性能的不满部分归因于英伟达GPU技术。
与此同时，英伟达正积极布局推理市场。知情人士称，英伟达与多家公司接洽，探讨收购事宜。Cerebras拒绝提议后与OpenAI达成协议，而Groq则因英伟达挖角芯片设计师，转而专注于云端软件销售。
英伟达CEO黄仁勋驳斥了与OpenAI关系紧张的报道，称将按计划进行巨额投资。2025年9月，英伟达宣布计划向OpenAI注资高达1000亿美元，以获取股份并支持OpenAI购买先进芯片。
芯片行业高管认为，英伟达收购Groq的决定旨在巩固技术组合，以在快速变化的AI行业中保持竞争力。英伟达称，Groq的知识产权与其产品路线图高度互补。
推理比训练需要更多内存，因芯片需频繁从内存获取数据。英伟达和AMD的GPU依赖外部内存，增加处理时间。OpenAI正关注将大量SRAM嵌入芯片的公司，以提升推理速度。
OpenAI首席执行官Sam Altman表示，客户对编码速度非常重视。OpenAI通过与Cerebras合作满足需求，但对普通ChatGPT用户而言，速度并非关键。
与此同时，谷歌和Anthropic等公司通过自主研发芯片（如TPU）在推理性能上占据优势。这些芯片专为推理任务设计，性能优于英伟达的通用AI芯片。
