NVIDIA Isaac SDK
构建和部署 AI 赋能的商业级机器人。NVIDIA Isaac SDK™ 是一个包含基础模组和工具的工具套件,可加速需要 AI 支持的增强感知和导航功能的机器人开发。
开始使用
人工智能
此 SDK 具有用于感知和规划的 GPU 加速算法和深度神经网络 (DNN),以及用于监督和强化学习的机器学习工作流。
导航
模组化机器人算法可为两种导航用例提供感知、规划或驱动。
仿真
在高保真物理和逼真仿真中进行训练和持续测试可加速机器人的开发和部署。
面向基于 AI 的机器人开发的丰富软件平台
此 SDK 包含 Isaac 引擎(一个应用框架)、Isaac GEMS(高性能机器人算法包)、Isaac 应用(参考应用)和 NVIDIA Isaac Sim™(功能强大的仿真平台)。这些工具和 API 可更轻松地将感知和导航添加到机器人,从而加速机器人开发。

使用 Isaac SDK 带来 GPU 加速的实时性能
基于 DNN 的 GEMS 性能
推理分辨率 | 每秒 Jetson Xavier™ NX 帧数 | 每秒 Jetson AGX Xavier™ 帧数 | |
---|---|---|---|
13D 姿态:姿态卷积神经网络 (CNN) + DetectNetv2、ResNet-18 | 640x368 | 47 | 82 |
物体检测(Detect_netv2、resnet18) | 640x368 | 120 | 205 |
自由空间分割 (Unet) | 512x256 | 49 | 86 |
非 DNN GEMS 性能
分辨率 | Jetson Xavier™ NX 执行时间 | Jetson AGX Xavier™ 执行时间 | |
---|---|---|---|
超像素 | 640 x 360 | 20.72 毫秒 | 16.89 毫秒 |
AprilTag 检测 | 701 x 935 | 17.51 毫秒 | 11.64 毫秒 |
2双激光雷达初始/启动全球定位 | 1250 x 500(二进制地图) | 6.93 秒 | 4.57 秒 |
3证据网格地图 (EGM) 融合 | 256 x 256(局部地图) | 8.94 毫秒 | 3.33 毫秒 |
GPU 加速的 GEMS 精选内容
GEMS 是高性能的机器人算法。
基于 Visual SLAM 的定位
Isaac 的 VSLAM 定位(预览版本)可提供基于视觉的出色定位性能。事实上,在使用 KITTI 数据库查看基于公开可用结果的实时立体 VSLAM 实现时,它的表现非常出色。有兴趣探索基于视觉定位的优势的开发者可以从 Isaac Sim 或 NVIDIA Carter 机器人入手。
Isaac 远程控制 (RC)
Isaac 远程控制(预览版本)可为远程机器人操作员在控制应用上提供低延迟的视频流。Isaac RC 基于 Cloud XR,是一款高性能软件堆栈,可提供差异化的服务质量 (QOS)。
室内移动机器人,Carter v2.0
Carter v2.0 是面向 Isaac SDK 用户的室内移动机器人参考设计平台。该平台基于 Segway Robotics 的 RMPLite 220 动力传动系统和集成的 IMU,非常灵活,可以添加和评估其他传感器。
Isaac Sim,机器人模拟器

在仿真中测试和训练可以节省时间和精力。Isaac Sim 提供物理属性准确的逼真仿真环境,可与 Isaac SDK 无缝运行。SDK 中的许多功能已获得 Isaac Sim 的支持,包括 Carter 2.0、Isaac RC 和基于 VSLAM 的定位。
Isaac SDK 合作伙伴
Isaac SDK 合作伙伴提供可与 Isaac SDK 无缝集成的驱动。单击此处可查看驱动和 Isaac 兼容硬件的完整列表。单击此处可查看 NVIDIA 自主机器生态系统的完整视图。





用户好评
“宝马团队致力于为客户提供‘选择的权利’,即为不同的客户定制不同车辆的不同功能。在一个工厂生产线上大量生产高质量、高度定制且款型多样的汽车需要端到端的先进计算解决方案。与 NVIDIA 的合作让我们能够在当下开发出未来工厂的物流系统,最终让宝马集团在世界各地的客户称心如意。”
– 宝马集团
“新加坡政府技术局为 Boston Dynamics 公司的‘Spot’四足机器人开发了附加功能,支持我们将其部署到新加坡一个公园内,从而让人们保持安全距离。我们的项目包括基于 AI 的算法,例如在 NVIDIA Jetson 平台上运行 Visual SLAM,从而提高机器人的自主性及其适应新环境的能力;我们还利用 NVIDIA Isaac SDK 来为‘Spot’机器人提供自动导航。”
– 新加坡政府技术局
Isaac 平台的详细视图
Isaac 引擎是一款软件架构,能够轻松构建模组化机器人应用。该架构支持用于智能机器人的高性能数据处理和深度学习。通过 Isaac 机器人引擎开发的机器人应用可在 NVIDIA® Jetson AGX Xavier™ 和 NVIDIA® Jetson Nano™ 等边缘设备以及搭载 NVIDIA® GPU(如 T4)独立显卡的工作站上无缝运行。
计算图和实体组件架构
- 通过配置预包装组件,帮助将复杂的机器人用例分解为较小的基础模组并进行自定义
- 通过为消息附加 CUDA® 缓冲区对象,避免主机设备内存复制,并提高应用性能
- 将节点分组到子图,然后将它们有效组合到机器人应用
用于可视化、录制、回放等的工具
- 随附可定制的可视化框架,能够为变量图、图纸、相机图像叠加或 3D 场景实现可视化
- 随附 Isaac WebSight,可在 Web 浏览器中检查和调试机器人应用
Python API
- 使在 Python 中写入功能齐全的 Isaac 代码成为可能
- 在 Python 应用中利用 Isaac C++ 和高性能 GEMS
- 通过 Jupyter Notebook 轻松管理 Isaac 应用
GEMS 是用于感知、规划或驱动的模组化功能,可轻松插入机器人应用。例如,开发者可以添加障碍物检测、双目深度估计或人类语音识别,以丰富其机器人用例。同理,开发者也可对机器人使用 Isaac 导航应用,也即用于构建机器人导航应用的模组集合。
规划算法通过在执行前对轨道在碰撞、范围和速度方面进行检查来避免障碍物
可定制的全球规划算法会利用降低速度、限制进入或单向移动等语义区域信息
灵活的 LQR 规划器代价函数界面,可在不同的机器人上进行定制、组合和使用

一个定义明确的流程,有助于 Jetson 深度摄像头合作伙伴在 Isaac SDK 上启动摄像头
Isaac Sim 提供用于构建虚拟机器人世界和实验所需的功能。借助 RGB-D、激光雷达和惯性测量单元 (IMU) 传感器、域随机化、真实数据标记、分割和边界框,Isaac Sim 通过 Isaac SDK 来支持导航及操控应用。
借助 Isaac SDK 可以使用机器学习工作流训练姿态估计工作流
显示材质(纹理、颜色)、光线方向、光照条件、阳光变化、物体/障碍物的位置、地板等的随机变化,训练机器人感知和行为,并测试现实生活中的可靠行为
多个 Carter 机器人在虚拟仓库中同时运行。每个操作均由独立的 Jetson Xavier 操作
使用 Isaac SDK 构建和部署 AI 赋能的商业级机器人。