据彭博、CNBC及南华早报综合报道,Google近期发布了一项名为TurboQuant的压缩算法,该技术可将大型语言模型(LLM)所需的键值缓存(KV cache)存储器用量压缩至少6倍。这一突破性进展使得原本只能在云端服务器运行的模型,现在也能在本地硬件上实现部署。
TurboQuant的发布一度引发市场对存储器需求下降的担忧,全球存储器芯片市场也因此受到冲击。SK海力士、三星电子、美光、铠侠、Sandisk、威腾电子等厂商均受到影响。对此,多位分析师提出了不同看法。
摩根士丹利、摩根大通和花旗集团指出,TurboQuant虽然降低了AI部署的技术门槛,但依据杰文斯悖论,效率提升往往会催生更多应用场景和用户需求,最终可能推动存储器需求的增长。SemiAnalysis也认为,随着性能瓶颈的解决,模型将变得更加强大,届时对更高规格硬件的需求也将随之增加。
Cloudflare CEO Matthew Prince将TurboQuant比作Google版的“DeepSeek时刻”,但他同时强调,AI推理在速度、存储器和能耗方面仍有优化空间。Ortus Advisors则表示,在当前存储器供应紧张的背景下,TurboQuant对需求的实际影响可能微乎其微。
总体来看,TurboQuant的推出不仅为边缘设备带来了新的发展机遇,也为AI技术的普及铺平了道路。尽管市场短期内存在波动,但长期需求格局并未发生根本性改变。