ChatGPT爆火背后的硬件产业链
来源:电子发烧友网发布时间:2023-02-12710浏览
询问 AI电子发烧友网报道（文/李弯弯）最近，ChatGPT持续火爆，随着微软在其搜索引擎必应中使用ChatGPT，谷歌、百度、阿里等都在计划推出类似ChatGPT的聊天机器人。谷歌母公司Alphabet Inc.于2月6日宣布推出聊天机器人“巴德(Bard)”；百度2月7日确认正在研发“文心一言”；阿里2月9日透露类ChatGPT的对话机器人正在研发。
而无论是ChatGPT，还是巴德(Bard)、文心一言、阿里的对话机器人，它们要运行，都需要大量的算力，数据中心、算力芯片业因此成为热门。
另外，数据中心在庞大的增量面前也透露出一个问题，便是网络设备的巨额能耗。数据中心是耗能大户。因此国家在去年11月1日在全国范围内强制实施了《数据中心能效限定值和能效等级》，决定在2025年实现节能量超过2143亿千瓦时。
近日工信部等七部门同样发布了《信息通信行业绿色低碳发展计划（2022-2025年）》，按照最新的国标要求到2025年，新建大型、超大型数据中心电能利用效率（PUE）降到1.3以下。
而在ChatGPT等AI技术发展的同时，降低能耗成了数据中心产业的趋势。对于数据中心而言，能耗主要来自三个方面：决定交换机性能的交换芯片、承载网络通信带宽的光模块、提高传输速率的SerDes。因此相关技术和芯片将会成为需求的重点。
事实上，在数据中心能耗问题方面，早在2020年，亚马逊、微软、谷歌等云计算巨头，思科、IBM、英特尔、英伟达等网络设备及芯片龙头，就已在投入研发一项名为CPO的技术。CPO是通过将交换芯片和光模块整合，形成芯片和模组的共封装，可降低原来功耗的50%。
据LightCounting预测，按照端口数量统计，CPO的出货量将从2023年的5万件增加到2027年的450万件，以800G和1.6T CPO为主。目前我国已有不少企业在进行相关技术研发，包括新易盛、锐捷网络、联特科技、光迅科技等。
首先是GPU，GPU可以支撑强大的算力需求。以ChatGPT为例，具体来看，从AI模型构建的角度：第一阶段是用超大算力和数据构建预训练模型；第二阶段是在预训练模型上进行针对性训练。而GPU由于具备并行计算能力，可兼容训练和推理，所以目前被广泛应用。
ChatGPT训练模型中就已导入至少1万颗英伟达GPU，曾经风靡一时的AlphaGO也只需要8块GPU。ChatGPT推理部分使用微软的Azure云服务，也需要GPU进行运作。所以，ChatGPT的火热兴起对GPU的需求可见一斑。
在ChatGPT火热的浪潮中，英伟达是主要受益者。英伟达是全球GPU和AI计算平台的领军者，其高端GPU占据了AI算法训练市场绝大部分的份额，ChatGPT之前，AlphaGo、GPT-3等明星AI产品都在英伟达的硬件上运行。花旗集团预估，ChatGPT可能会在未来12个月内为英伟达带来30亿美元至110亿美元的销售额。
英伟达之外，Intel和AMD也占据全球GPU主要市场。国内市场，目前在人工智能用GPU领域有所布局，包括摩尔线程、壁仞科技、沐曦、天数智芯、燧原科技等，不过整体产品应用情况仍不及英伟达等国际厂商。
随着AI应用进入大规模落地，可想而知除了GPU之外，其他AI训练、推理芯片也有很大的市场空间，像百度、阿里自己研发类ChatGPT的对话机器人，其本身也有在做训练芯片，另外还有寒武纪、鲲云科技、墨芯人工智能、瀚博半导体等厂商。
另外，从深度学习的角度来看，虽然GPU是最适合深度学习应用的芯片，但 CPU和FPGA也能发挥其重要性。本身ChatGPT的运行需要大量的服务器支撑，而其中少不了对CPU的需求。FPGA作为可编程芯片，可以针对特定功能进行扩展，在AI模型构建第二阶段具有一定的发挥空间。FPGA与CPU结合，也可以共同用于深度学习模型，实现对大算力的需求。
同时，在ChatGPT等技术和应用的加速发展下，AI训练芯片、推理芯片的市场需求也将大幅提升，相关企业需要做好准备。
更多热点文章阅读
而无论是ChatGPT，还是巴德(Bard)、文心一言、阿里的对话机器人，它们要运行，都需要大量的算力，数据中心、算力芯片业因此成为热门。
对数据中心需求量大
ChatGPT背后有着巨额的算力成本，数据显示，ChatGPT的总算力消耗约为3640PF-days（即每秒一千万亿次计算，运行3640个整日）。随着更多ChatGPT同类产品出现，且在相关服务不断升级和更新的情况下，未来数据中心的负担会越来越重，对数据中心数量的需求也更大。另外，数据中心在庞大的增量面前也透露出一个问题，便是网络设备的巨额能耗。数据中心是耗能大户。因此国家在去年11月1日在全国范围内强制实施了《数据中心能效限定值和能效等级》，决定在2025年实现节能量超过2143亿千瓦时。
近日工信部等七部门同样发布了《信息通信行业绿色低碳发展计划（2022-2025年）》，按照最新的国标要求到2025年，新建大型、超大型数据中心电能利用效率（PUE）降到1.3以下。
而在ChatGPT等AI技术发展的同时，降低能耗成了数据中心产业的趋势。对于数据中心而言，能耗主要来自三个方面：决定交换机性能的交换芯片、承载网络通信带宽的光模块、提高传输速率的SerDes。因此相关技术和芯片将会成为需求的重点。
事实上，在数据中心能耗问题方面，早在2020年，亚马逊、微软、谷歌等云计算巨头，思科、IBM、英特尔、英伟达等网络设备及芯片龙头，就已在投入研发一项名为CPO的技术。CPO是通过将交换芯片和光模块整合，形成芯片和模组的共封装，可降低原来功耗的50%。
据LightCounting预测，按照端口数量统计，CPO的出货量将从2023年的5万件增加到2027年的450万件，以800G和1.6T CPO为主。目前我国已有不少企业在进行相关技术研发，包括新易盛、锐捷网络、联特科技、光迅科技等。
带动AI芯片需求增长
ChatGPT横空出世，意味着一系列AI应用进入大规模的落地阶段。业内人士认为，这将对AI芯片在训练和推理等环节支撑大量数据高效处理提出新的挑战，芯片算力、存储容量、带宽、软件栈等多个维度上的技术要求将提高，并推动AI芯片市场增长。首先是GPU，GPU可以支撑强大的算力需求。以ChatGPT为例，具体来看，从AI模型构建的角度：第一阶段是用超大算力和数据构建预训练模型；第二阶段是在预训练模型上进行针对性训练。而GPU由于具备并行计算能力，可兼容训练和推理，所以目前被广泛应用。
ChatGPT训练模型中就已导入至少1万颗英伟达GPU，曾经风靡一时的AlphaGO也只需要8块GPU。ChatGPT推理部分使用微软的Azure云服务，也需要GPU进行运作。所以，ChatGPT的火热兴起对GPU的需求可见一斑。
在ChatGPT火热的浪潮中，英伟达是主要受益者。英伟达是全球GPU和AI计算平台的领军者，其高端GPU占据了AI算法训练市场绝大部分的份额，ChatGPT之前，AlphaGo、GPT-3等明星AI产品都在英伟达的硬件上运行。花旗集团预估，ChatGPT可能会在未来12个月内为英伟达带来30亿美元至110亿美元的销售额。
英伟达之外，Intel和AMD也占据全球GPU主要市场。国内市场，目前在人工智能用GPU领域有所布局，包括摩尔线程、壁仞科技、沐曦、天数智芯、燧原科技等，不过整体产品应用情况仍不及英伟达等国际厂商。
随着AI应用进入大规模落地，可想而知除了GPU之外，其他AI训练、推理芯片也有很大的市场空间，像百度、阿里自己研发类ChatGPT的对话机器人，其本身也有在做训练芯片，另外还有寒武纪、鲲云科技、墨芯人工智能、瀚博半导体等厂商。
另外，从深度学习的角度来看，虽然GPU是最适合深度学习应用的芯片，但 CPU和FPGA也能发挥其重要性。本身ChatGPT的运行需要大量的服务器支撑，而其中少不了对CPU的需求。FPGA作为可编程芯片，可以针对特定功能进行扩展，在AI模型构建第二阶段具有一定的发挥空间。FPGA与CPU结合，也可以共同用于深度学习模型，实现对大算力的需求。
小结
ChatGPT的爆火预示着人工智能的大规模落地应用成为可能，随着微软、谷歌、百度、阿里的入局，人工智能大模型的技术和应用也将更快向前推进。这必然造成对数据中心、服务器的大量需求，在“低碳”目标下，低能耗数据中心建设将会是未来发展重点。同时，在ChatGPT等技术和应用的加速发展下，AI训练芯片、推理芯片的市场需求也将大幅提升，相关企业需要做好准备。
更多热点文章阅读
新闻来源：电子发烧友网，文中所述为作者独立观点，不代表icspec立场。更多精彩资讯请下载icspec App。如对本稿件有异议，请联系微信客服specltkj。
