Nsight 深度学习设计器 2021 . 1
今天 NVIDIA 宣布了 Nsight DL Designer –第一个支持应用内推理的深度神经网络高效设计的同类集成开发环境。 现在可下载 ！
本 SDK 旨在通过在过程的每个阶段提供有效的支持，简化为应用内推理设计深度神经网络模型的经常迭代过程。
Nsight DL Designer 是一种基于 GUI 的模型设计工具，具有基于 GPU 指标的集成评测功能。它提供了一种将模型导入 PyTorch 进行培训的便捷方法。可视化分析模式允许开发人员以交互方式实时深入推理过程，并提供灵活的选项导出最终的推理部署模式。
端到端 Nsight DL Designer 工作流
开发人员首先在 Nsight DL Designer 中设计他们的深层神经网络模型，使用 NVIDIA 实现的一组内置高级神经网络层作为 神经推理机。创建模型后，可以进行性能分析，以了解模型是否满足分配的时间预算。分析可以提前完成，甚至在您花时间培训网络之前。
对于培训阶段， Nsight DL Designer 提供了各种 Python 脚本，可以自动将 Nsight DL Designer 模型转换为 PyTorch 模型，该模型可以轻松添加到培训循环中。训练完成后，您可以将学习到的权重数据从模型保存到 NumPy 文件中。您可以返回 DL Designer ，加载权重文件并进入分析模式以检查推断结果。分析模式还允许开发人员深入推理过程，直观地检查每个推理步骤中发生的事情。此反馈可能会指导开发人员优化其网络模型，以提高质量和性能。
一旦您对模型的质量和性能都感到满意，就到了部署的时候了。 Nsight DL Designer 提供了几种支持部署模型的方法。一种方法是将模型导出为 ONNX 文件。使用 ONNX 文件，您可以在任何运行 ONNX 的平台上部署您的模型
要了解更多信息，请观看 SIGGRAPH 课程： 宣布 Nsight Deep Learning Designer –优化您的神经网络以获得高质量和高性能 .
此版本的主要功能包括：
- 基于 GUI 的神经推理机模型设计
- 使用 GPU 度量的推理性能评测
- 与培训框架的接口– PyTorch
- 推理过程的交互式可视化分析
- 用于部署的自动化模型导出和代码生成
Resources:
