当地时间2月24日,美国AI芯片初创公司SambaNova发布了其最新一代AI芯片SN50。这款芯片定位为最高效的智能体AI芯片,号称性能比同类芯片快5倍,并可将企业的总体拥有成本降低至原来的1/3,SN50预计在今年晚些时候开始向客户发货。
SambaNova还宣布已获得来自新老投资者超过3.5亿美元的投资,并与英特尔达成合作,共同提供高性能、高性价比的AI推理解决方案。
SambaNova与英特尔达成了一项多年战略合作计划,旨在为全球AI原生企业、模型提供商、大型企业和政府机构提供高性能、高性价比的AI推理解决方案。此次合作将为客户提供一种强大的替代方案,以取代以GPU为中心的解决方案,为领先的开源模型提供优化的性能,并实现可预测的吞吐量和总体拥有成本。
作为合作的一部分,英特尔计划对SambaNova进行战略投资,以加速推出基于英特尔技术的AI云平台。此次合作预计将涵盖三个关键领域:AI云扩展、集成AI基础设施和市场推广执行。
SambaNova联合创始人兼首席执行官Rodrigo Liang表示:“凭借SN50以及我们与英特尔的深度合作,真正的竞争在于谁能用即时响应、永不卡顿的AI代理点亮整个数据中心,并且成本能够将AI从一项实验变成云端最赚钱的引擎。”
SN50的性能与特点
SambaNova创立于2017年,主要设计和构建集成的软硬件解决方案,旨在从数据中心到边缘运行AI应用和数据密集型应用。SN50基于可重构数据流架构(RDU),使应用能够驱动优化的硬件配置,软件不受固定硬件的限制。
SN50的单加速器计算能力是上一代产品的五倍,网络带宽是上一代产品的四倍。它可通过每秒数TB的互连链路连接多达256个加速器,从而缩短首次Token生成时间并支持更大的批处理规模。最终,企业可以部署更大、更具上下文关联性的AI模型,并拥有更高的吞吐量和响应速度,同时保持高性能,并将成本和延迟控制在可控范围内。
该芯片可以提供即时AI体验、无与伦比的规模和并发性、突破性的模型容量、规模化实现最高效率以及更智能的内存和效率。
软银在日本部署SN50
软银集团将成为首家在日本下一代AI数据中心部署SN50的客户。此次部署将为亚太地区的主权国家和企业客户提供低延迟推理服务,支持对延迟和吞吐量要求极高的开源和专有前沿模型。
软银集团副总裁兼技术部数据平台战略部负责人丹波博信表示:“借助SN50,我们正在为日本构建一个人工智能推理平台,能够以客户和合作伙伴期望的速度、弹性和自主性为他们提供服务。”