Meta与高通展开AI终端合作 手机、PC也可执行LLaMA 2

高通与Meta宣布在AI领域深化合作，未来将在高通芯片组装置上支持执行Meta LLaMA 2。高通

高通（Qualcomm）与Meta Platform最新共同宣布，将深化在人工智能（AI）领域的合作，让Meta自主研发第二代大型语言模型（LLaMA 2），未来也能在采用高通芯片的手机、PC上执行。

目前为止，大型语言模型（LLM）主要在采用NVIDIA GPU的大型服务器丛集上执行，以因应对数据和算力的庞大需求。但随着AI算力崛起，市场却很大程度忽略如高通等同样具有发展潜力的PC、手机先进处理器制造商。

根据CNBC报导，高通加入LLM算力市场，但将自家处理器定位为适用于AI、但放置在「边缘」（edge）或终端装置，而非在云端上。该公司声称，若LLM可很大程度在手机或PC上运作，而不仅限于数据中心，将很大程度降低AI执行成本，同时提升语音助理或其他应用的品质和速度。

高通相信，未来采高通芯片组装置将可支持Meta的开放原始码LLaMA 2，实现包括智能虚拟助理等诸多应用。高通芯片组包括张量处理器（Tensor processor unit；TPU），适用于AI模型所需的各类运算；但若与配备最先进GPU的数据中心相比，移动设备上的算力当然仍有段差距。

据悉，Meta的LLaMA 2可执行类似于ChatGPT的功能，但也能够调整为较小的应用程序，可利于移动设备上执行。相较于OpenAI的GPT-4或是Google Bard等封闭式模型，Meta LLaMA 2采开放原始码架构，无论研究人员或是企业商用都可无须取得授权或付费，即可直接使用。

责任编辑：张兴民