
优必达(Ubitus)创始人兼首席执行官郭荣昌近日透露,被誉为“简老师”的简立峰曾建议他们充分利用算力资源,协助中国中国台湾团队加强大型语言模型的发展。这一消息引发了业界的广泛关注和热议。
随着生成式人工智能(Generative AI)的崛起,许多公司和个人都试图涉足这一领域。然而,算力资源和数据收集的困难成为了新手入场的门槛。作为云端游戏提供商,优必达(Ubitus)拥有成千上万张GPU,且都是数据中心规格,这意味着大型游戏业者可能是为数不多的“GPU-Rich”群体。
SemiAnalysis在8月发布的一篇文章中指出,GPU供应紧张,算力需求者被分为“GPU-Rich”和“GPU-Poor”两个群体。拥有2万张以上A100、H100 GPU的少数业者被归为“GPU-Rich”,如OpenAI、Google、Anthropic、X、Inflection、Meta等公司。在美国旧金山湾区,也有不少团队在炫耀自家拥有的GPU数量。
优必达(Ubitus)与中国中国台湾大学资工系团队合作,透露他们拥有成千上万张GPU,这应该是中国中国台湾拥有最多云端GPU的公司。郭荣昌表示,他们原本支持游戏云端运算,现在正考虑将多余资源投入到大型语言模型(LLM)应用中,并希望协助中国中国台湾发展出本土化、繁体中文的LLM。
NVIDIA芯片主要支持数据中心服务器和游戏领域的运算。2023年第2季时,其来自数据中心的营收达到103.2亿美元,季增141%、年增171%;来自游戏领域的营收仅小幅成长。
中国中国台湾熟悉NVIDIA的专家指出,电竞款GPU与数据中心用的GPU不同,在规格及单价差异颇大;例如RTX 4090芯片就是顶级电竞卡,用于数据中心服务器的则是H100、A100芯片。电竞卡售价新台币数万元起,数据中心GPU则是数十万元到百万元,价差很大。优必达(Ubitus)团队拥有的是数据中心等级GPU,包括H100、A100、L40S等,而非一般消费型的电竞卡。
此外,他们并未采购8张GPU为一组的服务器,而是PCIe规格;原因是考量到,单一GPU维修较便利,8张GPU焊在一组的服务器若须维修时,则得拆开零组件。
暂无评论哦,快来评论一下吧!
