NVIDIA Jetson Orin Nano 개발자 키트는 NVIDIA가 NVIDIA GTC 2023에서 발표한 대로 엔트리 레벨 AI 기반 로봇, 스마트 드론, 지능형 비전 시스템 구축에 새로운 표준을 세웁니다. 또한 NVIDIA Jetson Orin Nano시리즈 시작을 쉽게 하죠. 콤팩트한 디자인, 수많은 커넥터, 최대 40 TOPS의 AI 성능을 갖춘 이 개발자 키트는 선구적인 개념을 현실로 구현하는 데 이상적입니다.
개발자 키트는 Jetson Orin Nano 8GB 모듈과 모든 NVIDIA Jetson Orin Nano, NVIDIA Jetson Orin NX 모듈을 수용할 수 있는 참조 캐리어 보드로 구성되어 차세대 엣지 AI 제품의 프로토타이핑을 위한 이상적인 플랫폼을 제공합니다.
Jetson Orin Nano 8GB 모듈은 1024개의 CUDA 코어, 32개의 3세대 Tensor Core, 6코어 Arm CPU가 포함된 NVIDIA Ampere 아키텍처 GPU를 갖추어 다수의 동시 AI 애플리케이션 파이프라인과 고성능 추론을 가능하게 합니다. 개발자 키트 캐리어 보드는 최대 4개의 레인이 갖춘 카메라 모듈을 지원하는 2개의 MIPI CSI 커넥터를 포함해 다양한 커넥터를 포함하여 이전보다 더 높은 해상도와 프레임 속도를 구현합니다.
이전 세대 Jetson Nano 개발자 키트는 모든 사람이 AI에 액세스할 수 있도록 했는데요. 새로운 Jetson Orin Nano 개발자 키트는 80배의 성능으로 엔트리 레벨 AI 개발의 기준을 높여, 개발자가 트랜스포머와 고급 로봇 모델을 포함한 모든 종류의 최신 AI 모델을 실행할 수 있도록 합니다. 이전 세대 Jetson Nano에 비해 AI 성능이 크게 향상되었을 뿐만 아니라, Jetson Orin Nano는 5.4배의 CUDA 컴퓨팅, 6.6배의 CPU 성능, 50배의 와트당 성능을 제공합니다.
NVIDIA Jetson Orin Nano 개발자 키트 기능
NVIDIA Jetson Orin Nano 개발자 키트에는 SD 카드 슬롯, 참조 캐리어 보드, 사전 조립된 방열판/팬, 19V DC 전원 공급 장치, M.2-Key E 기반 무선 네트워킹 모듈이 탑재된 특수 NVIDIA Orin Nano 8GB 모듈이 포함되어 있습니다. 부팅 가능한 마이크로SD 카드 슬롯 외에도 고속 저장을 위해 캐리어 밑면에 2개의 M.2 Key-M NVMe 소켓이 제공됩니다.
표 1과 2는 개발자 키트 내 캐리어 보드의 주요 기능과 인터페이스를 보여줍니다.
| 모듈 | NVIDIA Jetson Orin Nano 8 GB 모듈 |
| GPU | 32개의 Tensor 코어가 있는 NVIDIA Ampere 아키텍처 |
| CPU | 6코어 Arm Cortex-A78AE v8.2 64비트 CPU 1.5 MB L2 + 4 MB L3 |
| 메모리 | 8 GB 128비트 LPDDR5 초당 68 GB |
| 저장장치 | 마이크로SD 슬롯을 통한 외부 M.2 Key M을 통한 외부 NVMe |
| 전력 | 7 W ~ 15 W |
| 참조 캐리어 보드 | |
| 카메라 | 2x MIPI CSI-2 22핀 카메라 커넥터 |
| M.2 Key M | 3세대 x4 PCIe |
| M.2 Key M | 3세대 x2 PCIe |
| M.2 Key E | PCIe (x1), USB 2.0, UART, I2S, I2C |
| USB | A 타입: 4x USB 3.2 2세대 C타입: 디버그 및 디바이스 모드용1x |
| 네트워킹 | 1x GbE 커넥터 |
| 디스플레이 | 디스플레이포트 1.2 (+MST) |
| 마이크로SD 슬롯 | 최대 SDR104 모드 UHS-1 카드 |
| 기타 | 40핀 확장 헤더(UART, SPI, I2S, I2C, GPIO)12핀 버튼 헤더 4핀 팬 헤더 DC 전원 잭 |
| 크기 | 100 mm x 79 mm x 21 mm(피트, 캐리어 보드, 모듈 및 열 솔루션 포함 높이) |
Jetson Orin Nano 개발자 키트는 현재 499달러에 사전 예약할 수 있으며, 4월부터 배송을 시작할 예정입니다. Jetson Orin Nano 기술 문서, 참조 설계 파일, 소프트웨어는 Jetson 다운로드 센터에서 확인할 수 있습니다.
모든 최신 AI 모델 실행 가능한 Jetson Orin Nano
최대 40 TOPS의 AI 성능을 갖춘 Jetson Orin Nano 개발자 키트는 모든 최신 AI 모델을 실행할 수 있습니다. 이러한 컴퓨팅의 큰 도약은 이전에 Jetson Nano로는 불가능했던 트랜스포머 모델을 엣지에서 바로 실행하는 것을 포함하여 가장 까다로운 AI 애플리케이션을 가능하게 합니다.
트랜스포머 모델은 현재 전 세계적인 열풍을 일으키고 있는 챗GPT(ChatGPT)와 달리(DALL-E)와 같은 최신 생성형 AI 애플리케이션의 기반입니다. 트랜스포머 모델은 순차 데이터의 요소 간 관계를 추적하여 컨텍스트와 의미를 학습하므로 레이블이 지정된 대규모 데이터 세트가 필요하지 않습니다.
다음과 같은 기능을 지금 시작하세요
- 도시 경관을 여러 클래스로 분할하기 위한 도시 세그멘테이션
- Deformable Detection Transformer 기반 PeopleNet 트랜스포머
- NLP 용BERT
AI와 TTM을 가속화하는 Jetson 소프트웨어
Jetson Orin Nano 개발자 키트는 사용 사례별 애플리케이션 프레임워크와 함께 NVIDIA AI 소프트웨어 스택을 실행합니다. 여기에는 로보틱스를 위한 NVIDIA Isaac, 비전 AI를 위한 NVIDIA DeepStream, 대화형 AI를 위한 NVIDIA Riva가 포함됩니다. 합성 데이터 생성(SDG)을 위한 NVIDIA Omniverse Replicator와 NGC 카탈로그에서 사전 훈련된 AI 모델을 미세 조정하기 위한 NVIDIA TAO Toolkit을 사용하여 상당한 시간을 절약할 수 있습니다.
그림 3은 곧 출시될 NVIDIA JetPack 5.1.1을 사용하여 Jetson Orin Nano로 일부 컴퓨터 비전 벤치마크를 실행한 결과를 보여주는데요. 이러한 결과는 개발자 키트가 엔트리 레벨 컴퓨터 비전의 기준을 높인다는 것을 보여줍니다. 테스트에는 NGC의 일부 고밀도 INT8와 FP16 사전 훈련 모델과 Industry Resnet-50 Benchmark가 포함됐습니다. 벤치마크 테스트에는 다음이 포함됩니다.
- 가장 정확한 사람 감지를 위한 NVIDIA PeopleNet v2.5
- NVIDIA ActionRecognitionNet 2D 및 3D 모델
- 차량 번호판 인식을 위한 NVIDIA LPRNet
- 여러 사람의 자세 추정을 위한 NVIDIA DashCamNet, BodyPoseNet
- 객체 탐지를 위한 ResNet-50 (224×224) 모델
Jetson Orin Nano 개발자 키트는 NVIDIA TAO Toolkit 4.0으로 훈련된 모델을 지원하는 다목적 플랫폼이며 곧 TAO Toolkit 5.0에서 새로 발표되는 모델을 지원할 예정입니다. TAO Toolkit 5.0을 사용하여 개발자는 이미지 분류, 객체 탐지, 세그멘테이션 사용 사례를 위한 여러 가지 최첨단 비전 트랜스포머 모델을 활용할 수 있습니다. 자세한 내용은 ‘NVIDIA TAO Toolkit 5.0으로 최신 비전 AI 모델 개발 워크플로우 액세스’를 참조하세요.
NVIDIA Jetson Orin Nano와 NVIDIA DeepStream 은 스마트 리테일, 스마트 시티 교차로, 산업 자동화와 같은 엣지 애플리케이션을 위한 이상적인 조합입니다. 곧 출시될 DeepStream 버전과 GXF 런타임의 도입으로 Jetson Orin Nano는 공장 자동화 사용 사례에서 흔히 볼 수 있는 결정론적 시스템과 긴밀한 통합이 필요한 AI 그래프 실행에 적합한 플랫폼입니다.
또한, 최신 버전의 DeepStream Graph Composer를 사용해 애플리케이션을 구축하여 DeepStream에 빠르게 익숙해지고, 버튼 클릭 만으로 Jetson Orin Nano에 배포할 수 있습니다.
NVIDIA Jetson Orin에서 NVIDIA Isaac으로 로봇 애플리케이션 가속화
NVIDIA Isaac로봇 플랫폼은 AI 기반 로봇의 개발, 시뮬레이션, 배포를 위한 강력한 엔드 투 엔드 플랫폼입니다. 특히, 하드웨어 가속 패키지 모음인 NVIDIA Isaac ROS를 사용하면 ROS 2 개발자가 Jetson Orin Nano 개발자 키트에서 고성능 솔루션을 보다 쉽게 구축할 수 있습니다. 새로운 NVIDIA Isaac ROS DP 릴리스는 Jetson Orin 플랫폼에서 실행할 수 있는 ROS 2 노드 처리 파이프라인을 최적화합니다. 또한 처리량을 늘리도록 설계된 새로운 DNN 기반 GEMS를 제공합니다.
그림 4는 곧 출시될 NVIDIA Isaac ROS DP3 릴리스를 사용하여 Jetson Orin Nano에서 이러한 로봇 패키지를 실행한 결과를 보여줍니다. 실제 성능을 나타내는 실용적인 벤치마킹을 위해 RCL의 메시지 전송 비용을 포함하여 부하 상태에서 성능이 측정됐습니다. 테스트에는 다음을 포함해 차트(그림 4)에 표시된 알고리즘이 포함됐습니다.
- 로봇이 환경 주변의 시각적 특징을 추적하여 이미지에서 위치와 움직임을 계산할 수 있는 비주얼 SLAM
- AprilTag 탐지 및 포즈 추정을 위한 April 태그
- 이미지 탐지
- 이미지 세그멘테이션
- 장애물이 근접 필드 내에 있는지 확인하고 탐색 중 장애물과의 충돌을 방지하는 프록시미티 세그멘테이션
- 스테레오 입력 이미지를 가져오고 로봇 탐색을 위한 입력 이미지의 시차 맵을 생성하기 위한 스테레오 시차
차세대 애플리케이션 프로토타이핑을 시작하려면 NVIDIA Jetson Orin Nano 개발자 키트를 NVIDIA Jetson Orin Nano 개발자 키트를 사전예약하고 최신 NVIDIA JetPack을 설치하세요. 사전예약 가능 여부는 해당 지역의 유통업체에 문의하세요.
Jetson AGX Orin 시리즈, Jetson Orin NX 시리즈, Jetson Orin Nano 시리즈를 포함한 NVIDIA Jetson Orin 프로덕션 모듈 제품군의 전체 라인업은 현재 이용 가능합니다. 이제 Jetson AGX Orin 개발자 키트도 1,999달러의 동일한 가격에 64GB 메모리를 포함하도록 업그레이드됐습니다.
추가 리소스
NVIDIA Jetson Orin Nano 개발자 키트에 대한 더 자세한 내용은 NVIDIA GTC 2023 세션 ‘Jetson Orin과 Edge AI에 대한 전문가와의 Q&A’에서 확인할 수 있습니다.
모듈에 대한 자세한 내용은 ‘NVIDIA Jetson Orin Nano로 엔트리 레벨 AI 과제 해결하기’와 Jetson Orin Nano 시리즈 데이터 시트를 참조하세요.
커뮤니티 전문가의 도움을 받으려면 NVIDIA Embedded Developer 페이지와 포럼을 방문하세요.
이 블로그에 열거된 SDK의 대부분의 독점 액세스, 얼리 액세스, 기술 세션, 데모, 교육 과정, 리소스는 NVIDIA 개발자 프로그램 회원은 무료로 혜택을 받으실 수 있습니다. 지금 무료로 가입하여 NVIDIA의 기술 플랫폼에서 구축하는 데 필요한 도구와 교육에 액세스하시고 여러분의 성공을 가속화 하세요.
