Join the GTC talk at 12pm PDT on Sep 19 and learn all you need to know about implementing parallel pipelines with DeepStream.      Register now

NVIDIA DeepStream SDK

DeepStream의 멀티 플랫폼 지원을 통해 비전 AI 애플리케이션과 서비스를 더 빠르게 개발할 수 있습니다. 버튼 클릭 한 번으로 온프레미스, 에지 to 엣지 및 클라우드에 배포할 수 있습니다.

시작하기  LaunchPad로 테스트하기

NVIDIA DeepStream은 어떤 솔루션인가요?

세계 곳곳에 설치된 수십억 대의 카메라와 센서를 통해 엄청난 양의 데이터가 수집되고 있습니다. 이러한 데이터를 사용하면 비즈니스 인사이트를 생성하고 프로세스 효율성을 높이며 수익원을 개선할 수 있습니다. 교통 혼잡을 줄이기 위한 교차로, 병원의 건강 및 안전 모니터링, 고객 만족도 개선을 위한 소매 채널 설문 조사, 스포츠 분석, 제조 시설의 부품 결함 감지 등 각 분야에서 신뢰할 수 있는 실시간 지능형 영상 분석(IVA)을 요하고 있습니다. NVIDIA의 DeepStream SDK는 AI 기반의 다중 센서 처리, 비디오, 오디오 및 이미지 인식을 위한 GStreamer 기반의 완벽한 스트리밍 분석 툴킷으로, IVA 앱과 서비스를 구축하는 비전 AI 개발자와 소프트웨어 파트너, 스타트업 및 OEM에게 적합한 제품입니다. 이제 개발자는 신경망을 비롯해 추적, 비디오 인코딩/디코딩, 비디오 렌더링 등의 복잡한 처리 태스크가 모두 포함된 스트림 처리 파이프라인을 생성할 수 있습니다. DeepStream 파이프라인에서는 비디오, 이미지 및 센서 데이터를 실시간으로 분석할 수 있습니다.

What is DeepStream and how does the software stack look like
또한 DeepStream은 픽셀 및 센서 데이터를 실행 가능한 인사이트로 변환하는 총체적인 서비스와 솔루션을 구축할 수 있는 플랫폼인 NVIDIA Metropolis에서 중요한 부분을 차지하고 있습니다.

DeepStream의 주요 이점

 DeepStream is a powerful and flexible SDK

강력하면서도 유연한 SDK

DeepStream SDK는 광범위한 산업 분야의 다양한 사용 사례에 적합합니다.

DeepStream provides multiple programming options

다중 프로그래밍 옵션

C/C++, Python 또는 Graph Composer의 단순하고 직관적인 UI를 사용해 강력한 비전 AI 애플리케이션을 만들 수 있습니다.

DeepStream allows you to gather real-time insights

실시간 인사이트

에지 환경에서 대량의 다중 모드 실시간 센서 데이터를 파악할 수 있습니다.

DeepStream helps you create managed AI services

관리형 AI 서비스

클라우드 네이티브 컨테이너에 AI 서비스를 배포하고 Kubernetes를 사용해 오케스트레이션할 수 있습니다.

DeepStream helps you reduced total development cost

TCO 절감

TAO Toolkit을 사용해 모델을 훈련, 조정 및 최적화하고 DeepStream을 통해 모델을 배포함으로써 스트림 밀도를 높일 수 있습니다.

프로그래밍 옵션 살펴보기

C/C++

C/C++로 애플리케이션을 생성하고, GStreamer 및 DeepStream 플러그인에서 바로 상호 작용하며, 참조 애플리케이션과 템플릿을 사용할 수 있습니다.


C/C++에 대해 자세히 알아보기

Python

GStreamer 프레임워크의 Python 바인딩인 Gst Python을 사용해 DeepStream 파이프라인을 구축할 수 있습니다. 바인딩 및 Python 샘플 애플리케이션을 위한 소스 코드는 GitHub에서 찾을 수 있습니다.


Python에 대해 자세히 알아보기

Graph Composer

Graph Composer는 DeepStream의 사용자 경험을 개선하는 로코드 개발 툴입니다. 간단하고 직관적인 UI를 사용하여 드래그 앤 드롭 작업을 통해 처리 파이프라인을 구축할 수 있습니다.


Graph Composer에 대해 자세히 알아보기

정확도 및 실시간 성능 개선

DeepStream은 다양한 물체 감지, 이미지 처리 및 인스턴스 세분화 AI 모델에 탁월한 처리량을 발휘합니다. 아래 표에는 데이터 수집, 디코딩 및 이미지 처리에서 추론에 이르는 총체적인 애플리케이션 성능 정보가 나와 있습니다. DeepStream은 여러 1080p/30fps 스트림을 입력으로 사용합니다. Jetson 장치용 DLA에서 실행하면 다른 태스크에 사용할 GPU를 확보할 수 있습니다. 성능 모범 사례는 이 비디오 튜토리얼에서 확인하세요.


Xavier™ NX
Xavier AGX
Jetson Orin AGX™
T4
A2
A10
A30
A100
애플리케이션
모델
추적기
추론 분해능
정밀도
GPU
DLA1
DLA2
GPU
DLA1
DLA2
GPU
DLA1
DLA2
GPU
GPU
GPU
GPU
GPU
사람 감지
PeopleNet-ResNet34
(버전 2.5)
추적기 없음
960x544
INT8
79
22
22
137
29
29
455
이용 불가*
이용 불가*
431
237
993
1466
2380
사람 감지
PeopleNet-ResNet34
(버전 2.5)
NvDCF
960x544
INT8
74
22
22
125
28
28
418
이용 불가*
이용 불가*
418
231
957
1369
2285
차량 번호판 인식
TrafficCamNet
LPDNet
LPRNet
NvDCF
960x544
640x480
96x48
INT8
INT8
FP16
79
-
-
139
-
-
379
-
-
481
310
1169
1356
2196
3D 신체 포즈 추정
PeopleNet-ResNet34 BodyPose3D
NvDCF
960x544
192x256
INT8
FP16
9
-
-
12
-
-
57
-
-
68
54
152
128
132
액션 인식
ActionRecognitionNet (3DConv)
추적기 없음
224x224x3x32
FP16
15
-
-
24
-
-
85
-
-
137
74
1154
2640
2640

해당 없음* = JetPack 5.0.2에서는 성능 수치 제공 어려움


DeepStream SDK를 사용하면 스트리밍 비디오에 AI를 적용하고, 비디오 디코딩/인코딩, 이미지 스케일링, 변환 및 에지-클라우드 연결을 동시에 최적화하여 총체적인 성능 최적화를 구현할 수 있습니다.


DeepStream을 사용한 성능에 대한 자세한 내용은 설명서를 참조하세요.

주요 특징 살펴보기

원활한 개발 작업

개발자는 DeepStream을 사용해 AI 기반 비디오, 오디오 및 이미지 분석을 위한 원활한 스트리밍 파이프라인을 구축할 수 있습니다. 또한 로코드를 개발할 때 C/C++이나 Python을 이용할 수도 있고 Graph Composer를 이용할 수도 있어서 좀 더 유연하게 개발할 수 있습니다. DeepStream에는 각종 하드웨어 가속 플러그인과 확장 기능이 함께 제공됩니다.

개발자와 기업 모두를 위해 개발된 DeepStream은 최첨단 SSD, YOLO, FasterRCNN, MaskRCNN 등 인기 있는 물체 감지 및 세분화 모델에서 광범위한 AI 모델을 지원합니다. 맞춤형 함수와 라이브러리를 통합할 수도 있습니다.

신속한 프로토타입 제작에서부터 프로덕션 단계의 완전한 솔루션에 이르기까지 과정 전반에서 유연성을 확보하고 추론 경로를 선택할 수 있습니다. NVIDIA Triton™ Inference Server에 대한 네이티브 통합 기능을 사용하면 PyTorch이나 TensorFlow와 같은 네이티브 프레임워크에서 모델을 배포하여 추론을 수행할 수 있습니다. 다중 GPU, 다중 스트림 및 배칭 지원 옵션으로 고성능 추론을 지원하는 NVIDIA를 사용하면 TensorRT™ 최상의 추론 성능을 달성할 수 있습니다.

DeepStream 애플리케이션은 네이티브 추론을 지원하는 것 외에도 gRPC를 사용해 Triton Inference Server의 독립적인 원격 인스턴스와 통신할 수 있기 때문에 분산 추론 솔루션을 구현할 수 있습니다.

자세히 알아보기

DeepStream helps developers build seamless streaming pipeline for AI based video analytics
DeepStream helps developers build high performance cloud native AI applications

클라우드 네이티브 구현

클라우드 네이티브 기술을 사용하면 향후 제품을 신속하게 개발하고 품질을 지속적으로 개선하는 데 필요한 유연성과 민첩성을 확보할 수 있습니다. 클라우드 네이티브 접근 방식을 적용하면 탄력적이고 관리가 용이한 애플리케이션을 구축할 수 있기 때문에 애플리케이션을 보다 빠르게 배포할 수 있습니다.

개발자는 DeepStream Container Builder 툴을 사용해 NVIDIA NGC 컨테이너로 고성능 클라우드 네이티브 AI 애플리케이션을 구축할 수 있습니다. 생성된 컨테이너는 대규모로 손쉽게 배포되며 Kubernetes와 Helm 차트를 통해 관리됩니다.



자세히 알아보기

총체적인 AI 솔루션 구축

NVIDIA Metropolis로 총체적인 비전 AI 시스템을 구축하면 개발 작업 전반의 속도를 높이고 실시간 성능을 개선할 수 있습니다. 프로덕션급의 비전 AI 모델로 시작하여 TAO Toolkit을 통해 조정 및 최적화하고, DeepStream을 사용해 배포할 수 있습니다.

DeepStream은 SSD, MaskRCNN, YOLOv4, RetinaNet 등을 포함한 몇 가지 감지 및 세분화 모델의 턴키 통합 기능을 제공합니다. 개발자는 Triton 서버와 DeepStream의 맞춤형 전처리/후처리 플러그인을 활용해 자체 맞춤형 모델을 사용할 수 있습니다.



자세히 알아보기
DeepStream is integrated with NVIDIA Metropolis for complete end-to-end AI solutions
DeepStream is bundled with multiple reference applications

참조 애플리케이션에 액세스

DeepStream SDK에는 사용자의 개발 작업을 지원하도록 설계된 30개 이상의 샘플 애플리케이션이 번들로 함께 제공됩니다. 대부분의 샘플은 C/C++, Python 및 Graph Composer 버전으로 제공되며, NVIDIA Jetson™과 dGPU 플랫폼에서 모두 실행됩니다. 참조 애플리케이션은 DeepStream 플러그인 기능을 자세히 알아보거나, 맞춤형 비전 AI 애플리케이션을 개발하기 위한 템플릿 및 시작점으로 사용될 수 있습니다.



자세히 알아보기

Graph Composer 사용

이제 DeepStream 개발자는 Graph Composer 덕분에 강력한 로코드 개발 옵션을 갖게 되었습니다. 간단하고 직관적인 인터페이스 덕분에 복잡한 처리 파이프라인을 손쉽게 생성하고, Container Builder를 사용해 빠르게 배포할 수 있습니다.

Graph Composer는 실시간 최신 다중 스트림 비전 AI 애플리케이션을 생성하는 데 필요한 기반 DeepStream, GStreamer 및 플랫폼 프로그래밍 지식의 상당 부분을 추상화합니다.

사용자는 코드를 작성하는 대신에 광범위한 구성 요소 라이브러리와 상호 작용하면서 드래그 앤 드롭 인터페이스를 사용해 이들을 구성 및 연결합니다. 개발자는 서로 다른 하드웨어 플랫폼에 최적화된 NVIDIA의 확장 기능 리포지토리를 사용하거나, 기능을 직접 생성할 수 있습니다.



자세히 알아보기
Conceptual image of low-code Graph Composer

고객 사례 읽기

OneCup AI Customer Story

OneCup AI

OneCup AI는 컴퓨터 비전 시스템을 통해 NVIDIA의 사전 훈련된 모델과 TAO Toolkit 및 DeepStream SDK를 사용해 동물의 활동을 추적 및 분류함으로써 개발 소요 시간을 몇 달에서 몇 주로 대폭 단축할 수 있었습니다.


OneCup AI에 대해 자세히 알아보기
Tapway Customer Story

Tapway

Tapway는 NVIDIA GPU, DeepStream SDK 및 기타 NVIDIA 소프트웨어 툴을 사용해 차량 번호판을 판독하고 최대 시속 40km로 이동하는 경우에도 50밀리초만에 클래스, 제조사 및 색상을 감지할 수 있도록 AI 모델을 훈련해서 실행했습니다. 이는 눈을 한 번 깜박이는 시간의 10분의 1에 불과할 정도로 짧은 시간입니다.


Tapway에 대해 자세히 알아보기
Two-i Customer Story

Two-i

컴퓨터 비전, 데이터 과학 및 딥 러닝을 결합한 Two-i의 기술은 가장 위험한 분야 중 하나인 석유 및 가스 산업에서 치명적인 사고를 예방하는 데 효과적입니다.
Two-i는 AI 기반의 비디오 분석 애플리케이션에서 NVIDIA Metropolis 플랫폼을 사용하고, 고급 툴을 활용하며, 풀스택 접근 방식을 채택해 유연성을 확보할 수 있었습니다.


Two-i에 대해 자세히 알아보기

자주묻는 질문

DeepStraem은 클로즈드 소스 SDK입니다. 모든 레퍼런스 애플리케이션 및 일부 플러그인용 소스는 다운로드가 가능합니다.

DeepStream SDK는 엔드 투 엔드 AI 지원 애플리케이션을 구축해서 동영상 및 센서 데이터를 분석하는데 사용 가능합니다. 일부 잘 알려진 사용 사례를 보자면, 유통 분석, 주차 관리, 운송 관리, 광학 조사, 로보틱스 및 스포츠 분석 등이 있습니다.

예, Triton Inference Server의 통합으로 현재 가능합니다. 또한, DeepStream 6.1.1을 활용해서 애플리케이션은 gPRC를 사용 중인 Triton Inference Server의 독립적/원격 인스턴스와 통신이 가능합니다.

DeepStream은 일부 인기 네트워크를 바로 지원 가능합니다. 예를 들어, DeepStream은 MaskRCNN을 지원합니다. 또한, DeepStream은 유명한 YOLO 모델, FasterRCNN, SSD 및 RetinaNet을 실행시킬 수 있습니다.

예, DS 6.0 이상 버전은 Ampere 아키텍처를 지원합니다.

예, DeepStream SDK 6.1.1에서 오디오가 지원됩니다. 시작하려면 소프트웨어를 다운로드하고 레퍼런스 오디오 및 Automatic Speech Recognition (ASR) 애플리케이션을 확인하세요. ASR DeepStream Plugin을 살펴보면 자세한 장보를 얻을 수 있습니다.

DeepStream SDK를 사용하여 고성능 비전 AI 앱 및 서비스를 구축하세요.

시작하기