NTT自研LLM基础架构 估2023年内推生成式AI服务

NTT集团旗下的NTT Docomo，正自行开发「大型语言模型附加价值基础架构」。法新社

日本三大运营商，包括NTT集团、KDDI、软银（SoftBank），纷纷着手开发生成式AI（Generative AI）。NTT自行开发的生成式AI，将先在集团内试用，并预定2023年度（2023/4~2024/3；FY23）内向企业客户提供服务。

NTT在2023年6月已经表明，将研发生成式AI，供应给企业客户，这种生成式AI将学习金融、医疗、法律等领域的专业知识，预计2023年度内推出。

NTT生成式AI的大型语言模型（LLM），参数量约70亿~300亿个。OpenAI的ChatGPT所使用的LLM，即GPT-3，参数达1,750亿个，后来的GPT-3.5、GPT-4的参数量则更多。

不同于美国IT厂如OpenAI的泛用型生成式AI，NTT等日厂，通常使用较小的运算资源与较低的成本来训练AI语言模型，针对特定范围，推出生成式AI服务。

2023年8月，NTT集团的NTT Docomo，以及旗下的NTT Communications、NTT Comware等共3间公司，将应用生成式AI，推动公司内的业务，目标是透过提升生成式AI的附加价值来推出新服务。首先将在2023年8月下旬开始，在3间公司内展开实验。

实验过程中，将使用NTT Docomo开发的「LLM附加价值基础架构」，搭配LLM，以提升使用生成式AI时的安全性与便利性，并可保障企业内信息不外流的安全性，以及内容的正确性。

这3间公司内的实验中，针对业务专门性高的问答，可透过上述的基础架构，输入公司规章与守则作为基础，再以LLM生成的文句，来进行回答。

在公司内部检验过回答的正确性与便利性之后，将进一步检讨是否可拿来作为针对客户的AI应答服务。

经过反复调整后，包含对企业客户的验证过后，目标2023年度内，正式推出生成式AI服务。

此外，NTT Docomo保有的大数据，及语音识别、影像识别等AI技术，可搭配这个LLM附加价值基础架构，同时向企业客户推出新的附加价值服务。

NTT Docomo的LLM附加价值基础架构，已确定可以使用Azure OpenAI Service的LLM，提供生成式AI服务并进行实验。

今后，LLM附加价值基础架构也可以根据各种需求，选择不同的LLM，来提供生成式AI服务。例如可采用NTT集团的「NTT研究所」开发、针对各特定领域的LLM。另外，也可采用开源软件、各供应商等提供的各种LLM。

责任编辑：王桢莹