据Skymizer透露,该公司计划在2026年台北国际电脑展(COMPUTEX 2026)上,正式展出其首款专为本地端AI推理打造的解码优先(decode-first)芯片HTX301。该芯片内置自主研发的HyperThought LPU硅知识产权(IP),能够将原本依赖云端GPU机柜的大型推理任务,转化为企业在自有环境中通过单张加速卡即可完成的本地端作业。同时,Skymizer宣布与“资策会”达成合作,共同助力中国台湾地区AI产业从边缘AI向企业级本地端AI全面升级。
当前,人工智能的应用重心正逐渐从模型训练向推理阶段转移,且推理场景日益从云端向本地端下沉。在医院、金融机构、政府部门及工厂等对数据合规性和低延迟有严格要求的场景中,企业愈发倾向于在数据源头直接运行前沿大模型。然而,高昂的成本、巨大的功耗以及系统复杂度一直是制约本地端部署的主要瓶颈。HTX301的研发初衷正是为了消除这三大障碍,用企业可自主掌控的单张加速卡替代复杂的GPU机柜方案。
据Skymizer介绍,HyperThought架构并非简单沿用传统的训练芯片设计,而是专门针对大型语言模型(LLM)推理服务阶段的存储带宽与容量需求进行了优化。目前,单张HTX301加速卡可集成1至8颗推理芯片,最高配备512GB DRAM,能够支持万亿参数级别的LLM推理任务,且全部运算均可在单张PCIe加速卡上实现,彻底摆脱了对庞大GPU机柜的依赖。
在系统扩展性方面,该架构具备全方位的延展能力。单张HTX301卡不仅能服务于边缘节点或AI盒子,其相同的硅知识产权(IP)还能应用于企业本地端机柜,通过多卡互联构建迷你数据中心级别的推理集群。企业可以从单卡部署起步,根据业务需求灵活扩容,无需对现有基础设施进行重构。
此外,Skymizer指出,目前的HTX301搭载了该公司的LISA v3指令集架构,而LISA v4版本正处于研发阶段。未来,HyperThought架构将进一步拓展至混合专家模型(MoE)、多模态以及智能体(Agentic)推理等下一代AI工作负载,并将在存储带宽、KV缓存(KV cache)效率,以及2比特级别的量化与稀疏化技术上持续进行优化升级。