DeepStream 入门
单击此处下载 DeepStream 6.1。
DeepStream 6.1 亮点:
Jetson | Tesla GPU (x86) | |
---|---|---|
操作系统 | Ubuntu 20.04 | Ubuntu 20.04 |
依赖项 | JetPack:5.0.1 DP CUDA:11.4.14 cuDNN:8.3.2 TensorRT:8.4.0.11 (DP) Triton 22.03 | 驱动:R510+ CUDA:11.6 更新 1 cuDNN:8+ TensorRT:8.2.5.1 Triton 22.03 |
适用于 Jetson 的 DeepStream 6.1 仅与 JetPack 5.0.1 开发者预览版兼容。对于 JetPack 4.6.1,请使用 DeepStream 6.0.1。如需更低版本的 DeepStream 版本,请单击此处。
入门资源
为了确保与页面顶部表格中所示的 TensorRT 版本兼容,如果用户计划使用通过 TAO 工具套件(以前称为 TLT)3.0-21.08 或更低版本开发的模型,必须先重新生成 INT8 校正缓存,然后才能将模型用于 DeepStream 6.0 或 6.1。
如果使用更低版本的 TensorRT 中的模型和 INT8 校正缓存,还需要重新生成缓存。
您可以在文档的“Readme First”部分中找到有关重新生成此类缓存的详细信息。
对于刚刚接触 DeepStream 的开发者或未重复使用旧模型的开发者而言,这不是问题。
下载
DeepStream 5.x 应用完全兼容 DeepStream 6.1。请阅读迁移指南了解更多信息。
Python 示例和绑定
Python 绑定的源码和 wheels 现在可以在 GitHub 上获得。DeepStream SDK 不再包含 bindings 构建。
访问 DeepStream Python 应用 Github 页面,获取文档和样本应用。
有关常见问题,请参阅 DeepStream SDK 技术常见问题解答。
常见问题解答
- 请参阅技术常见问题解答,了解 DeepStream SDK 常见问题。
文档和论坛
- 版本说明
- 入门指南
- DeepStream Python API
- DeepStream C/C++ API
- 在 DeepStream SDK 开发者论坛中发布您的问题或反馈
参考实现
- 新参考应用
- DeepStream NMOS 应用
- DeepStream UCX/RDMA 测试应用(UCX Test1、2 和 3):示例演示了如何使用 UCX 框架发送和接收带有和不带有自定义元数据的视频和音频。
- DeepStream 3D 深度摄像头参考应用:演示如何通过 DS3D 接口和自定义库设置深度捕获、深度渲染、3D 激光点云处理和 3D 点渲染工作流。
- Python DeepStream 测试 3:已更新,除了 TRT 之外,同时支持Triton 推理。
- DeepStream Python 应用:库包含 Python 绑定和样本应用
- DeepStream C/C++ 应用:库包含 C/C++ 绑定和样本应用
- DeepStream 参考图形:库包含 Graph Composer 样本应用
- DeepStream 姿态估计:了解如何在 DeepStream 上部署姿态估计模型
- 使用 DeepStream 识别车牌:将车牌检测和识别预训练模型用于智慧城市解决方案
- 在运行时添加/删除源添加/删除运行时源的应用,用来展示 Deepstream SDK 的功能
- 配备 TAO 工具套件模型的 DeepStream 应用:此库提供了一个 DeepStream 样本应用,用于运行六个 TAO 工具套件模型 (DetectNet_v2/Faster-RCNN/YoloV3/SSD/DSSD/RetinaNet)。
- 在 DeepStream 中使用自定义 YOLO 模型:objectDetector_Yolo 样本应用提供了开源 YOLO 模型的工作示例,例如 YOLOv2、YOLOv3、小型 YOLOv2 和小型 YOLOv3
成功案例
- 了解 Metropolis 开发工具如何发挥作用。
- 了解 Arugga 如何采用 AI 的番茄授粉器让蜜蜂得以稍事休息。
- 了解 Recycleye AI 系统如何致力于减少全球浪费。
- 探索 INEX 如何借助实时视频处理变革道路收费系统
- 了解 Nota 如何将实时交通管制系统的开发时间缩短 50%
- 探索其他优秀的 AI 团队如何利用 DeepStream SDK 改变我们周围的世界。立即阅读
博客与教程
- 使用 NVIDIA DeepStream 和 NVIDIA Triton 推理服务器部署 TensorFlow 模型库中的模型
- 视频教程 DeepStream 最佳实践,助力性能提升
- 如何将 Jetson 模组上的 NVIDIA DeepStream 与 AWS IoT Core 和 AWS IoT Greengrass 集成
- 借助 Microsoft Azure 进行 NVIDIA DeepStream 开发
- 使用 NVIDIA TAO 工具套件为分类和目标检测准备先进模型
- 创建实时车牌检测和识别应用
- 使用 NVIDIA TAO 工具套件,借助专门打造的预训练模型进行训练
- 为智能图像和视频分析构建和部署准确的深度学习模型
使用云服务的 DeepStream 一站式集成
使用 TAO 工具套件进行 AI 训练
感知与分析
适合初学者的在线自主培训, NVIDIA DLI 免费在线课程
在线研讨会
- 使用 NVIDIA 预训练视觉模型和 DeepStream SDK 打造智能场所
- 使用 NVIDIA 预训练模型和 TAO 工具套件 3.0,创建与机器人的基于手势的交互
- 基于 DeepStream 构建,使用 AWS IoT 服务部署和管理
- DeepStream 与 Azure IoT 的边缘到云端集成
GTC
- 如何借助 NVIDIA DeepStream 开发和优化边缘 AI 应用(2022 年 – NVIDIA)
- 深度解析 Jetson 和 DeepStream(2022 年 – NVIDIA)
- 智慧城市
- 打造智慧城市(2022 年 – 奥马哈市、拉斯维加斯市、加利福尼亚州交通部、圣何塞市、特拉维夫市)
- 借助数字孪生打造更智能的基础架构 – NVIDIA Omniverse 和 Metropolis(2022 年 – Nota)
- 利用AI 视频分析打造更安全的公共交通(2021 年 – 卧龙岗大学)
- 实现城市规模的 AI 视频分析,打造更智慧的城市(2021 年 – SK Telecom)
- 了解越南如何借助 NVIDIA GPU 和 Deepstream SDK 解决交通拥堵问题(2021 年 – VNPT Information Technology Company)
- 工业
- 使用边缘 AI 和 GPU 计算优化仓储物流运营(2022 年 – ADLINK Technology)
- 在面向工业 4.0 用例的私有 5G 网络上扩展视觉 AI(2022 年 – Microsoft)
- 开发适用于自主海洋导航和目标检测的高效推理模型(2022 年 – Marine AI, Submergence)
- 零售
- 借助 NVIDIA 技术衡量免下车餐厅的客户体验(2022 年 – IKARA Vision Systems)
- 新一代 AI 零售内部物流解决方案(2021 年 – NVIDIA、Pepsico、Dematic、Kinetic Vision)
- 媒体与娱乐
- 在媒体和娱乐的制作和资产管理工作流程中部署边缘 AI 视频分析(2022 年 – Quantum)
- 云集成
- 将 NVIDIA DeepStream 与 AWS IoT Greengrass V2 和 Sagemaker 集成:Amazon Lookout for Vision on Edge 简介(2022 年 – Amazon Web Services)
- 简化智能视频应用的开发和部署(2022 年 – Microsoft)
- 部署生态系统
- 智能 VSaaS 平台方法(2022 年 – Network Optix)
- 连接 NVIDIA Metropolis/EGX 的世界和视频管理系统(2021 年 – Milestone Systems)
- 如何使用 AI Launchpad 和 Metropolis 快速试点和扩展智能基础架构解决方案(2021 年 – NVIDIA)
- 使用 NVIDIA TAO 简化 AI 模型(2022 年 – NVIDIA)
其他资源
NVIDIA 的平台和应用框架便于开发者能够构建多种 AI 应用。在选择或创建将要部署的模型时,考虑潜在的算法偏置。与模型的开发者合作,确保模型满足相关行业和用例的要求;提供必要的指令和文档以了解错误率、置信区间和结果;在符合条款和预期方式的情况下使用模型。