AWS:GPU需求仍强劲 服务器通用芯片地位受挑战
来源:林佳楠发布时间:2023-09-221427浏览
询问 AIAWS台湾暨香港总经理王定恺表示,生成式人工智能(Generative AI)加速云服务市场成长,GPU需求仍强劲,但缺货并未对AWS造成明显影响。他也认为,专用芯片(ASIC)的重要性与日俱增,将挑战通用型芯片的地位,未来会有更多自研芯片开发者出现。
AWS在7月底的纽约峰会发表一系列生成式AI新服务,包括EC2 P5执行个体导入NVIDIA H100 GPU。AWS平台上也提供自家及合作伙伴开发的大型语言模型(LLM)。
王定恺强调,AWS已运用生成式AI多年,例如在语音助理Alexa系统中,并非等到ChatGPT问世才投入。而算力资源虽重要,但真正可产生效益的是演算法和相关应用。他也认为,AI模型应用将走向「分众化」,如医疗、零售、制造业的需求就不尽相同。
近期NVIDIA高端GPU缺货,然微软(Microsoft)却传出因AI新服务订单不如预期、下修H100订单数量。AWS如何看待需求消长?
王定恺表示,AWS是NVIDIA和超微(AMD)的大客户,运算层有两业者的GPU可供客户选择,相关需求仍强劲,目前并未观察到GPU缺货对AWS造成明显影响,因AWS向来有一定业务发展预估,当然有时还是避不开黑天鹅事件、如COVID-19(新冠肺炎)的影响。
曾任英特尔(Intel)亚太区业务总监的他也强调,通用型芯片若未持续掌握利基点,市占率将受专用芯片挑战。
他认为,半导体产业其实不太擅长开发专用芯片,业者也会担心如果开错规格,将蒙受很大损失。AWS自研芯片发展多年,包括锁定AI模型训练和推论的Trainium、Inferentia系列以及Graviton系列,均已迭代数次。由于「客人就在我手里」,对专用芯片需求有一定掌握。
事实上,因GPU成本和能耗较高,市场多看好AI芯片的发展。有台系IC设计业者即透露,手握GPU和自研芯片的美系云服务商,以及服务器业者,近期均关注AI芯片发展。
摩根士丹利(Morgan Stanley)报告也曾预估,目前AI服务器中主要用到的芯片是通用型GPU,市占率79%,但通用型GPU市占率将逐年下滑,估2025年降至50%,2026年降至39%;相对地,定制化AI芯片市占率则逐年成长。
此外,王定恺也期待台湾可进一步放宽上云相关法规。
DIGITIMES曾报导,AWS在台首座数据中心将于2024年落地。据了解,其于2022年中推出的本地区域(Local Zone)服务,是向运营商租用机房,主管机关并不认为是真正落地。
再被问到机房落地一事,王定恺表示,一直有在评估,但还是要看台湾市场需求而定。就目前观察,无论是新创业者还是政府单位,需要本地机房的客户很少,主要是受监管单位如金融、医疗和运营商比较需要。
他也坦言,政府虽逐步放宽金融和医疗业的上云法规,但相较于全球,台湾的速度并没有那么快,导致某些新创应用透过云端放到全球市场时,可能已经不够创新了。
机房落地有不同形式,包括购地自建或是与本地业者合作。王定恺并未透露落地形式为何,并表示就算机房落地,也不会提早太多时间宣布。
责任编辑:毛履万亿
新闻来源:DIGITIMES科技网,文中所述为作者独立观点,不代表icspec立场。更多精彩资讯请下载icspec App。如对本稿件有异议,请联系微信客服specltkj。

