弥补不足：大型语言模型借企业数据之力变得更加智能

NVIDIA NeMo服务帮助企业将大型语言模型与其专有数据相结合，赋能智能聊天机器人、客户服务等更多应用。

署名：Erik Pounds

如今的大型语言模型知识渊博，但它们的工作方式有点像时间胶囊——所收集的信息仅限于第一次被训练时所使用的数据。例如，如果在一年前进行训练，那么驱动AI聊天机器人的大型语言模型就不会知道最近的产品或者服务。

通过最近发布的NVIDIA AI Foundations云服务系列中的NVIDIA NeMo服务，企业可以很好地填补这一缺口。企业用户可以使用专有数据来增强他们的大型语言模型，从而能够经常更新模型的知识库，而不必从头开始重新训练这些模型。

NeMo服务中的这一新功能使大型语言模型能够从专有数据源中检索准确的信息，并为用户查询生成类似人类的对话式答案。有了这一功能，企业可以使用NeMo为其应用程序定制能够定期更新、拥有特定领域知识的大型语言模型。

这可以帮助企业跟上库存、服务等领域不断变化的形势，解锁高精度人工智能聊天机器人、企业搜索引擎和市场情报工具等功能。

NeMo包括为语言模型的响应引用来源的能力，从而增加用户对输出的信任。使用NeMo的开发人员还可以设置护栏来定义人工智能的专业领域，从而更好地控制生成的响应。

Quantiphi是一家以AI为先的数字工程解决方案和平台公司，也是NVIDIA的服务交付合作伙伴之一。它正在与NeMo合作，构建一个名为baioniq的模块化生成人工智能解决方案，帮助企业构建定制的大型语言模型，以提高工人的生产力。其开发团队正在创建一些工具，使用户可以在几秒钟内搜索非结构化文本、图像和表格中的最新信息。

为“暗数据”带来光明

分析师估计，大约有三分之二的企业数据没有被开发。这些信息被称为“暗数据”，它们未被开发的原因之一是很难从大量数据中收集到有意义的洞察。现在，有了NeMo，企业可以使用自然语言提示从这些数据中获取洞察。

NeMo可以帮助企业建立能够从不断变化的知识库中学习并做出反应的模型，无论该模型最初使用什么数据集进行训练。开发人员不需要为了新的信息而重新训练模型，只需要更新一个数据库作为该模型的记忆库即可。新增加的信息可以被添加到这个数据库中，而不需要修改大型语言模型在语言处理和文字生成方面的核心能力。

企业还可以设置护栏来定义人工智能的专业领域，生成式AI应用将不会对专业领域外的话题发表观点或意见。

掀起新一轮企业生成式AI应用的热潮

通过使用业务数据定制大型语言模型，企业可以使他们的AI应用变得敏捷、快速响应：

• 聊天机器人：许多企业已使用AI聊天机器人在网站上与客户保持基础的互动。通过NeMo，企业可以构建所在专业领域的虚拟专家。
• 客户服务：企业可以使用最新产品的细节来更新NeMo模型，帮助现场服务人员运用最新信息，更加轻松地回答客户的问题。
• 企业搜索：企业拥有非常丰富的资料，包括技术文档、公司政策和IT支持文档等。员工可以使用一个由NeMo驱动的内部搜索引擎，更快、更容易地检索信息。
• 市场情报：金融行业需要收集关于全球市场、上市公司和经济趋势的洞察。通过将大型语言模型连接到定期更新的数据库，投资者和其他专家可以从大量信息中快速识别出有用的细节，比如监管文件、财报电话会议录音或财务报表等。

想在应用中添加生成式AI功能的企业可以申请抢先体验NeMo服务。

点击“阅读原文”，观看NVIDIA创始人兼首席执行官黄仁勋GTC主题演讲中关于NVIDIA AI Foundations的部分。