立即下载 DOCA,开启高性能AI 网络之旅,实现“一站式” 编程
数据科学

利用 NVIDIA NIM 和 cuOpt 构建供应链优化 AI 智能体

企业在供应链决策中面临着两大挑战:最大限度地提高利润和快速适应动态变化。为了实现优化的供应链运营,企业需要依赖高级分析和实时数据处理,以适应快速变化的环境并做出明智的决策。

优化无处不在。为了履行客户承诺并降低风险,组织运行数千个什么如果场景,以满足客户承诺并将风险降至最低。

例如,零售公司必须考虑交通、天气和行驶里程等因素,以优化路线,并降低物流成本,其中超过一半的成本归功于最后一英里配送​。

同样,制药公司必须应对复杂的供应链和监管限制,以及高昂的研发成本,这使得实时优化变得困难。

金融机构必须在波动的市场中平衡风险和回报,这需要复杂的数学模型(PDF)为决策制定。

农业 sector 需要处理不可预测的因素,如天气和市场需求

在本文中,我们将展示如何使用线性编程和 LLM,借助 NVIDIA cuOpt 微服务中的优化 AI,克服优化挑战,并以出色的解决方案突破优化的极限。

线性编程

借助 NVIDIA cuOpt 和 NVIDIA NIM 推理微服务,您可以利用 AI 代理的强大功能来改进优化。供应链效率是此类应用程序中极具吸引力和热门的领域之一。除了众所周知的车辆路线问题(VRP)之外,cuOpt 还可以针对 GPU 上的 线性受限 问题进行优化,从而扩展 cuOpt 可以近乎实时解决的问题集。

cuOpt AI 代理是使用多个 LLM 代理构建的,充当 cuOpt 的自然语言前端,使您能够将自然语言查询无缝地转换为编码和优化计划。

大型语言模型(LLM) 已在聊天机器人、编码助手,甚至能够解决小型旅行业务员问题(TSP)的 优化器 方面取得了可喜的成果。然而,问答和大规模运营规划的组合空间对于当今的 LLM 而言已经遥不可及,因为它们在提供特定背景下的智能响应方面表现出色。

cuOpt AI 代理专门使用上下文学习,利用 NVIDIA NIM for llama3-70b 进行推理任务,利用 NVIDIA NIM for codestral-22b-instruct-v0.1 进行编码任务。我们的工作流将原始提示分割为中间任务,每个任务都由专门的代理处理,这些代理输出细粒度的数据单元和代码,然后将其输入其他代理,以执行后续任务。由于 LLM 可以轻松并行化特定子查询,以最大限度地提高响应速度,因此此架构使您能够实现高性能的准确性。

当数据扩展到数百万个约束和变量时,模型能够在推理时间内保持不变,这是因为灵活的并行架构使其具有这种能力。然而,如果没有快速的线性编程求解器,这种能力就不会有什么实际意义。

cuOpt 线性编程求解器可以在几秒内解决如此大规模的问题,这样您可以将大部分总时间用于推理。它完全由 CUDA 加速,并使用 CUDA 数学库进行了优化,另外还有许多其他端到端优化。

给定用户问题和优化模型,您可以处理一组可能场景,这些场景是用户希望在决策过程中测试的,而不需要等待次日或每天手动设置这些实验。

cuOpt AI 智能体可以通过与 LLM NIM 的集成来理解业务用例的自然语言描述,并运行假设场景提示,以返回详细答案,说明如何得出结果。该过程代表了一个考虑中断、事件和参数更改的可能性树(图 1).

Workflow diagram shows numerous potential scenarios in the parameter space.
图 1. cuOpt AI 代理运行假设场景提示,以返回最佳解决方案。

如果不考虑业务结果,这些场景单独运行不会对用户有益。我们引入了一个解释器代理,该代理能够为用户提供详细的响应,并生成解释性图表。与其他代理类似,我们使用上下文学习来指导代理,获得详细的最佳答案。

革新供应链管理

由于动态变化的因素,如库存短缺、需求激增和价格波动,供应链变得非常复杂,管理难度也越来越大。然而,供应链优化能够带来显著的好处。

研究表明,企业组织预计能够更快地对供应链中断作出反应,从而节省 3700 万美元。这相当于2022 年供应链中断平均成本的 45%。供应链中断带来了巨大的经济挑战,每年全球企业组织平均损失 8300 万美元。规模更大的企业组织自然会产生更高的成本。

平均而言,年收入在 500M 美元到 1B 美元之间的公司产生的成本为 4300 万美元,而年收入在 10B 到 50B 美元之间的公司的相应数字为 1.11 亿美元。有关更多信息,请参阅来自 Interos (PDF) 的 Invisible Threats:Resilience 2023

cuOpt AI 智能体可以作为供应链管理的 AI 规划器。

企业组织可以克服大规模运营中固有的复杂性,实现非凡的成就,即在非常规的规模上建立 AI 驱动的工厂。这是通过 AI 规划器的创新集成实现的。

AI 规划器是基于 NVIDIA NIM 的 LLM 驱动的代理

AI 规划器包含以下内容:

  • 用于理解规划者意图并指导其他模型的 LLM NIM
  • 用于连接 LLM 到专有数据的 NeMo Retriever RAG NIM,以及用于物流优化的 cuOpt NIM。
Diagram shows how the NVIDIA LLM NIM, NeMo Retriever RAG NIM, and cuOpt NIM integrate to enable AI Planner for supply chain management.
图 2.NVIDIA cuOpt AI 规划器架构
  • 管理器: 将每个子任务分配给专门的代理。
  • 建模器:专门修改问题的当前建模,以便将分配的子任务集成。
  • 编码器: 编写代码以解决由一个智能体提示的特定任务。
  • 解释人员:专注于在新计划实施前和实施后对结果进行分析和比较。

AI 规划器使用 LangGraph 构建,由多个专业代理和一套工具组成。每个代理是一个专门的 LLM NIM,可以处理一些非重叠的任务,并在必要时调用一些工具。

该解决方案提供端到端的可见性、需求预测方法、自动订单履行的优化、动态规划的优化以及在近乎实时进行集成业务规划。

视频 1.使用 NIM 与您的供应链数据交流

NVIDIA 运营着世界上最大的供应链之一,该供应链极其复杂。我们构建的超级计算机连接成千上万个 NVIDIA GPU,通过数百英里的高速光缆实现连接。

这项工作依赖于数百家合作伙伴的无缝协作,他们为数十家工厂提供数千个不同的组件,从而生产出近 3000 种不同的产品。单一供应链的中断都可能会影响我们履行承诺的能力。

为了帮助我们大规模制造和交付 AI 工厂,NVIDIA 业务运营团队扩展了 AI 规划器的用例,让我们可以与供应链数据进行交互。通过 cuOpt 作为我们 AI 规划器背后的优化大脑,NVIDIA 运营团队可以使用自然语言输入与我们的供应链数据对话,实时分析数千种可能的场景。 我们的 cuOpt 动力 AI 规划器可以在短短几秒内完成此分析,从而能够快速敏捷地响应不断变化的供应链。

这些先进技术协同工作,使您的组织能够以以前所未有的效率和精度浏览供应链管理的复杂网络。

优化决策

随着求解器时间的大幅缩短,线性编程可以显著加快决策制定速度,从而应用于各行各业的众多用例。这些用例包括但不限于以下内容:

  • 资源分配
  • 成本优化
  • 调度
  • 库存规划
  • 设施选址规划
    • 供应链网络,例如仓库、商店、供应商或供应商的安排
    • 交通枢纽
    • 公共空间,例如医院、公共汽车站、急救站、电信公司的基站等

以下是一些需要通过数据检索和数学优化运行假设场景的行业示例用例。

制造、运输和零售

客户要求额外增加 30 台,但由于天气原因,供应交付将延迟一周。这将对完成率产生什么影响?为了最大限度地降低生产、运输、持有成本等成本,这将对您的分配计划产生何种影响?

医疗健康和制药

全球对医疗健康提供商和药物的需求增长速度超过了预计。那么,医院和制药公司如何能够动态重新评估医疗供应的影响,以最大限度地提高利润?

城市规划

作为城市发展规划的结果,某些社区会有大量居民涌入,从而导致交通堵塞。为了更大限度地提高公共交通利用率并减少单辆汽车的数量,城市如何确定需要添加的公共交通站点数量?

结束语

注册以接收通知,当您可以 试用 cuOpt AI 代理 时,包括 NVIDIA AI Enterprise 的 90 天免费试用版。

试用 NVIDIA cuOpt,以及 NVIDIA 托管的最新 AI 模型 NIM 微服务。在 API 目录上,还可以免费试用 NeMo Retriever NIM 微服务。

 

标签