在 GTC 2022 年, NVIDIA 对 AI 框架进行了增强,以构建实时语音 AI 应用程序、大规模设计高性能推荐者、将 AI 应用于网络安全挑战、创建 AI 驱动的医疗设备等。
展示了真实世界中的端到端 AI 框架,突出了客户和合作伙伴在其行业和领域中的领先地位。当组织将其 AI 框架投入生产时, NVIDIA AI Enterprise 的企业支持可确保这些 AI 应用程序的成功。
观看创始人兼首席执行官黄(黄仁勋)的 主题演讲 ,探索 NVIDIA ( NVIDIA )的最新人工智能技术进步,并学习将人工智能投入生产的新方法。
NVIDIA Riva
NVIDIA 宣布对 Riva 进行新的更新,这是一个用于支持 speech AI 框架的加速 SDK 。构建和部署具有世界级自动语音识别( ASR )和文本到语音( TTS )功能的完全可定制实时 AI 管道:在云端、边缘、本地或嵌入式设备上。
亮点:
- 世界级的 ASR 语言有两种新语言:印地语和法语。
- 5 – 英语、西班牙语、普通话、俄语和德语的开箱即用准确率提高了 30% 。
- 使用 SSML API ,可以在推理时轻松控制语音强调、音量和暂停。
- 紧凑而简单的一个 TTS 模型,具有多个合成语音,允许在推理时选择语音。
- 嵌入式 Riva ,具有七种 ASR 语言和两种现成的女性和男性英语 TTS 语音,延迟低于 100 毫秒。
- 通过购买 NVIDIA AI Enterprise 软件,通过 NVIDIA 企业支持访问 NVIDIA -AI 专家、培训和知识资源。
开始使用 下载 Riva ,在 LaunchPad 中的准备就绪的基础架构上尝试 guided Riva labs ,或使用 NVIDIA AI Enterprise 软件获得大规模 Riva 部署支持。
将这些 GTC 会话添加到您的日历中:
- How to Make Your Conversational Application Talk
- Speech-to-Text at Scale
- Speech AI Demystified
- AI Development Platform Helps on Conversational AI
- Building Conversational AI Applications DLI 课程( additional session )
NVIDIA Morpheus
在 GTC 上, NVIDIA 宣布更新了 Morpheus ,这是一个 GPU 加速的网络安全框架,使开发人员能够创建优化的 AI 管道,用于过滤、处理和分类大量实时数据。
最新的 Morpheus 版本中包含的新数据可视化有助于安全分析师精确定位异常,并具有内置的可解释性,使他们能够快速确定一组可操作的后续补救步骤。
其他新功能:
- 数字指纹工作流程,包括可微调的解释性和阈值,可根据您的环境进行定制。
- 一种新的数字指纹可视化工具为分析的事件提供了大量数据缩减,以便安全分析师能够更快地进行调查和补救。
- 敏感信息检测用例的基于可视化图形的解释程序使安全分析师能够更容易地识别泄漏的敏感数据。
- 多流程管道支持使新工作流能够智能地成批处理,以减少延迟。
有关 NVIDIA Morpheus 最新版本的更多信息,请参阅 Detecting Threats Faster with AI-Based Cybersecurity 。开始在 NGC GitHub Repo 或 NGC 上使用 NVIDIA Morpheus ,或在 NVIDIA LaunchPad 上尝试。
将这些 GTC 会话添加到您的日历中:
- Learn About the Latest Developments with AI-Powered Cybersecurity
- Deriving Cyber Resilience from the Data Supply Chain
- Accelerating the Next Generation of Cybersecurity Research
NVIDIA cuOpt
NVIDIA 宣布其 cuOpt AI 物流软件框架在全球开放可用。 cuOpt 提供接近实时的路由优化,使企业能够更快地使用更大的数据集。
公司现在可以使用新的功能,例如动态重新路由、模拟和最后一英里交货、供应链管理和仓库拣选的亚秒解算器响应时间。
主要更新:
- 新的容器化服务器 API
- 主要公共云上的可用性,如 GCP 、 AWS 、 Azure 等
- 以最高的精度、速度解决 700 种不同的布线问题,并可扩展到每个 GPU 10K 个位置
- 能够与 NVIDIA ISAAC Sim 联系,在您的下一个内部物流设计中发现光速
- 根据 Gehring 和 Homberger 的基准,利用 cuOpt 的世界记录准确性’的车辆路线( CVRPTW )和 Li & Lim 的提货和交货( PDPTW )基准
有关更多信息,请在 /nvidia/cuopt-resources GitHub repo 上下载 NVIDIA cuOpt ,或在 NVIDIA LaunchPad 上尝试。
将这些 GTC 会话添加到您的日历中:
- Solving the Largest Optimization Problems in Seconds with Parallel Heuristics
- Optimizing Digital Twins to Reduce Intra-Factory Costs up to 20%
- How AT&T Supercharged their Data Science Efforts
NVIDIA Merlin
今天, NVIDIA 宣布更新 NVIDIA Merlin ,这是一个端到端推荐系统框架,旨在加速数据处理、培训、推理和大规模部署。
有了最新版本,数据科学家和机器学习工程师可以在 CPU 和 GPU 上快速构建和部署模型,以及扩展到 TB 大小的模型训练和推理。
注意的功能:
- 轻松构建和比较 TensorFlow 、 XGBoost 和 Implicit 中常见的流行检索和排名模型。
- 能够通过利用基于 Hugging Face transformer 的架构构建顺序和基于会话的建议。
- 发现分布式嵌入的模型并行性,以优化 TB 模型培训的可扩展性和灵活性。
- 将推理扩展到具有低延迟和高吞吐量的 TB 模型。
简化您的推荐者实验框架,并立即从 NVIDIA-Merlin GitHub repo 下载。
将这些 GTC 会话添加到您的日历中:
- Cross-Framework Model Evaluation and Accelerated Training with NVIDIA Merlin
- A Transformer-Powered Recommendation Engine for Personalized Online Advertising
NVIDIA Tokkio
在 GTC 上, NVIDIA 介绍了如何使用 NVIDIA Avatar Cloud Engine ( ACE )来整合难以置信的复杂化身应用程序,包括 Tokkio ,一个用于构建沉浸式、化身驱动的客户体验的参考应用程序。
试用 Tokkio today on NGC 。
NVIDIA Maxine
在 GTC 上, NVIDIA 宣布提前发布 Maxine 音频效果微服务,以及两个新的音频 SDK 功能。 NVIDIA 还共享了眼睛接触、面部表情评估和现有 SDK 的其他增强版本的通用性。
以下 NVIDIA Maxine 微服务处于早期访问阶段:
- Audio Super Resolution: 通过将音频输入流从 8 kHz 提升至 16 kHz ,采样率从 16 kHz 提升到 48 kHz ,提高了实时音频质量。
- 声学回声消除: 取消来自输入音频流的实时声学设备回声,消除不匹配的声学对和双重对话。与传统的数字信号处理相比,基于人工智能的技术可以实现更有效的抵消。
- 背景噪音消除: 能够消除用户麦克风上的噪音,以及对方的音频馈送,使对话更容易理解。
- Room Echo Removal: 删除麦克风听到的声音的音频。
Get started 今天与 NVIDIA Maxine 合作。
将此 GTC 会话添加到日历中:
MONAI 1.0
MONAI 项目是人工智能的医疗开放网络,无论开发人员从何处开始,它都在继续扩展其能力,以加速医疗人工智能培训。
MONAI 1.0 的发布带来了令人兴奋的新更新:
- 示范动物园启动 AI 培训框架
- MONAI 标签中的主动学习用于构建更好的数据集
- 自动三维分割
- 联盟学习
有关 MONAI 1.0 的更多信息,请参阅 Open-Source Healthcare AI Innovation Continues to Expand with MONAI 1.0 或在 NVIDIA LaunchPad 上尝试。
将这些 GTC 会话添加到您的日历中:
- AI-Assisted Annotation for Continuous Learning with MONAI Label
- Take Medical AI from Research to Clinical Production with MONAI and Clara Holoscan
- Design, Train, and Evaluate Domain-Specialized Healthcare Imaging AI Models with MONAI
- Creating Inference Applications for the Medical AI Project Lifecycle using MONAI Deploy
NVIDIA Clara Holoscan
在 GTC 上宣布, NVIDIA Clara Holoscan SDK 0.3 现在为 4K 视频提供了 240 Hz 的闪电般快速帧速率,使您能够组合来自更多传感器的数据,并构建可提供手术指导的 AI 应用程序。通过高速以太网连接传感器实现更快的数据传输,您可以使用更多工具为医疗设备构建加速的 AI 管道。
亮点:
- 4K 240 Hz 流上的端到端延迟仅为 10 ms
- 在 NVIDIA RTX A6000 上以 4K 60 Hz 、 50 ms 以下的频率流式传输数据,团队可以运行 15 个并发视频流和 30 个并发模型。
- 为高带宽网络传感器提供更快的数据传输和可扩展的连接。
- 开发工具,用于为通用医疗设备应用构建加速 AI 管道。
有关 NVIDIA LaunchPad Holoscan 加速 AI 医疗设备开发的方式的更多信息,请参阅 Powering Ultra-High Speed Frame Rates in AI Medical Devices with Clara Holoscan SDK 。而是寻找一个动手实验室?在 Clara 上尝试 Clara 全息扫描。
将此 GTC 会话添加到日历中:
NVIDIA Metropolis
在 GTC 上, NVIDIA 宣布,世界上最大的工业自动化公司西门子正在采用 NVIDIA Metropolis 和 IGX 工业边缘 AI 平台。 IGX 上的 Metropolis 将帮助西门子将整个机器人和物联网设备车队连接起来,共同工作,以更高的精度主动识别工厂车间的安全风险和装配线上的产品缺陷。
其他好处:
- Metropolis 使西门子能够将下一层次的感知与新的和现有的工业检测系统相结合。
- 通过 Metropolis 和 IGX ,西门子可以将模拟数字孪生工厂与物理孪生工厂连接起来,这是朝着未来自动驾驶工厂迈出的一大步。
将这些 GTC 会话添加到您的日历中:
- Tracking Objects Across Multiple Cameras Made Easy with Metropolis Microservices
- All You Need to Know About Implementing Parallel Pipelines with DeepStream
- AI Models Made Simple using NVIDIA TAO
NVIDIA Isaac
今天, NVIDIA 在云端推出了 NVIDIA ISAAC Sim ,提供了三种选项,可以使用最新发布的 Omniverse 云、 AWS RoboMaker 或自行管理的实例访问照片真实、物理精确的机器人仿真。 NVIDIA 还宣布, NVIDIA ISAAC Nova Orin 是一个模块化、可扩展的计算和传感器平台,适用于使用自主移动机器人( AMR )的 OEM 和 ISV 。
以下是 NVIDIA ISAAC Sim 和 NVIDIA ISAAC Nova Orin 如何帮助推进机器人行业:
- 在任何地方和任何设备上模拟机器人。
- 扩展仿真以满足计算量最大的仿真任务,如 CI / CD 和合成数据生成。
- 利用可互操作的传感器和计算平台加速 AMR 开发。
请务必参加为期两小时的动手 NVIDIA Isaac Sim on AWS Robomaker 研讨会。
将这些 GTC 会话添加到您的日历中:
- A Perspective on the Future of Robotics and Its Use Cases in Logistics and Smart Transportation
- Leveraging Simulation Tools to Develop AI-Based Robots
- OV: How to Build a Digital Twin: Bringing in Robotics
- Re-imagining Robot Autonomy with Neural Environment Representations
NVIDIA DRIVE Thor
今天, NVIDIA 推出了 NVIDIA -DRIVE Thor ,这是其下一代集中式计算机,可确保自动驾驶车辆的安全。
NVIDIA DRIVE Thor 是一款性能达到 2000 万亿次浮点运算的超级芯片,可以将智能功能统一到单个架构中,从而提高效率并降低总体系统成本。智能功能包括自动和辅助驾驶、停车、驾驶员和乘客监控、数字仪表盘、车内信息娱乐( IVI )和后座娱乐。
新功能:
- 多域计算支持
- FP8 精度
- 推断 transformer 引擎,将 DNN 性能提高 9 倍
- NVLink-C2C 芯片互连技术
有关 NVIDIA DRIVE Thor 功能的更多信息,请参阅 NVIDIA DRIVE Thor Strikes AI Performance Balance, Uniting AV and Cockpit on a Single Computer 。
将这些 GTC 会话添加到您的日历中:
- Developing Software-Defined Vehicles for the New Era of Transportation
- Elevating the Passenger Experience with Intelligent In-Vehicle Infotainment
- Turbocharging DNN Development and Testing for Autonomous Vehicles with DGX SuperPOD
- Accelerating AV Development and Validation with Synthetic Data Generation
NVIDIA BioNeMo
正如人工智能正在通过 transformer 模型学习理解人类语言一样,它也在学习生物和化学语言。在 GTC 上, NVIDIA 引入了 BioNeMo ,这是一种新的框架和服务,用于使用更大的数据集训练大型 transformer 模型。这导致神经网络性能更好。
较大的模型可以存储更多关于氨基酸序列和不同蛋白质性质的预测信息。你可以将这些见解与生物特性、功能甚至人类健康状况联系起来。
亮点:
- 化学和生物预训练大型语言模型( LLM )
- 超级计算规模的优化推理,使您能够部署具有数十亿或万亿参数的 LLM
- AI 药物发现管道的交钥匙云服务
试试 MegaMolBART ,它是 Bio NeMo 框架中的一个生成化学模型,在 LaunchPad 上有一个指导性实验室。
将此 GTC 会话添加到日历中:
NVIDIA AI 企业
NVIDIA AI Enterprise 是一个强大的云本地软件套件,它简化了整个 AI 框架,并释放了 NVIDIA AI 平台的全部潜力。
作为 NVIDIA AI 平台的操作系统, NVIDIA -AI Enterprise 为使用广泛的 NVIDIA 框架库构建的应用程序提供生产就绪支持。
无论是与 Riva 一起创建更具吸引力的聊天机器人和 AI 虚拟助手,还是与 NVIDIA Merlin 一起构建更智能的建议以帮助消费者做出更好的购买决策,还是与 NVIDIA Clara 一起开发 AI 驱动的医学成像和基因组学,等等, NVIDIA AI Enterprise 都支持开发人员可以用来设计新业务解决方案的 NVIDIA – 领域特定框架。
将这些 GTC 会话添加到您的日历中:
- Deep Dive into What’s New in the NVIDIA AI Enterprise Software Suite
- From Development to Scaling in Production: An IT Playbook for Modern Applications
- Expert Panel: Leveraging MLOps to Put AI in Production