想象一下,在每次互动中,您都能让最优秀的销售人员站在每位客户面前。您的最优秀的销售人员会提供产品推荐和操作方法指导,并解释客户可能没有考虑过的相关产品。
本文中介绍的 NVIDIA 零售购物顾问是一种预构建的端到端 AI 工作流程。它提供了一个参考设计,演示如何开发具有大型语言模型(LLMs)的检索增强生成(RAG)应用程序,该应用程序可以提取产品目录数据,并使用一些最新的生成式 AI 功能提供差异化体验,为客户的查询和推荐请求提供符合上下文准确且类似人类的答案。
零售购物顾问 AI 工作流程
此零售购物顾问 AI 工作流程为企业提供了从试点到实现商业价值的快速先进的方法。它包括一切所需的元素,以创建对话式、精确和准确的消费者购物体验。
零售购物顾问参考架构包含一个 RAG 模型,该模型可以在回答客户问题时利用最新的产品数据。此外,还包含来自 NVIDIA Employee Gear Store 的产品数据样本集,该数据集表示产品目录。您可以使用此参考示例将自己的产品目录和相关数据添加到其中,为您的企业创建交互式购物顾问。
NVIDIA AI Enterprise 中包含 NVIDIA NIM 微服务,可确保快速的企业级部署和优化的模型性能。NIM 微服务的 NVIDIA NeMo Retriever 集合通过有效使用广泛的企业数据来增强传统的 LLM 功能。这只是开发者在构建购物顾问应用程序时可以从 NVIDIA 选择的软件套件中的一小部分。
NVIDIA NIM旨在简化生成式AI应用的部署,同时确保安全性和可扩展性(这是企业成功采用的关键)。NIM封装了模型和集成代码,这些模型和代码通过Kubernetes Helm图表部署。这些模型和代码可以部署在选择的基础架构上(本地或通过云服务提供商)。NIM的设置提供了一条路径,可将生成式AI应用从概念验证提升到生产,从而“在短短5分钟内即可实现零推理”。
NeMo Retriever 包含先进的商用模型,用于检索嵌入和重新排序。通过 NVIDIA API 目录访问这些微服务。NVIDIA 零售购物顾问使用 GPU 优化的 Milvus 数据库来存储向量嵌入。
借助 NVIDIA NIM 和 NeMo Retriever 微服务,您可以构建自己的零售购物顾问应用程序,该应用程序可以实时访问数据,并且经过优化,与严格的开源框架相比,可实现更高的调用率。NVIDIA NIM 的性能优势简化了解决客户在对更长的搜索查询获取高质量响应这一重大问题。
关注 Jupyter Notebook
此工作流程中包含一个 JupyterLab Notebook 服务器,其中包含一个展示解决方案功能的示例 Notebook,因此您可以快速对自己的数据进行原型设计和实验。具体来说,它涵盖了如何:
- 使用 LLM
- 将 LLM 与零售产品数据结合使用
- 根据产品信息创建嵌入
- 使用这些嵌入检索与给定查询最相似的产品
- 助力 LLM 做出决策,例如正常响应,或使用搜索或购物车 API 等工具
- 将这些组件收集到单个 Productebook 实用程序类中
- 将其部署在 FastAPI 后端,并通过 React 应用程序中的聊天框与该后端交互
开始使用
详细了解如何构建自己的零售购物顾问。当您准备好开始后,您可以申请 90 天免费订阅,免费访问零售购物顾问 NVIDIA AI 工作流程。要体验其他 NVIDIA NIM 微服务,请访问 NVIDIA API 目录。
有关 NVIDIA 如何帮助零售商应对新用例的更多详细信息,请查看 GTC 点播会议“How NVIDIA Accelerates Retailers on the Gen AI Journey”。
如需了解有关在企业中构建 RAG 应用的更多信息,请访问 GitHub 上的 NVIDIA/GenerativeAIExamples。这些示例将帮助您创建自己的购物顾问,以便使用最可行的信息准确回答有关企业产品的特定领域的问题。