NVIDIA IGX 플랫폼의 프로덕션-레디 엔터프라이즈급 소프트웨어, NVIDIA RTX 6000 ADA 지원 등 다양한 소식을 확인하세요!

실시간 엣지 AI는 의료, 산업, 과학 컴퓨팅에 매우 중요한 역할을 담당합니다. 왜냐하면 이러한 중요 업무용 애플리케이션은 즉각적인 데이터 처리, 짧은 지연 시간, 높은 신뢰성을 통해 빠르고 정확한 의사결정을 내릴 수 있어야 하기 때문입니다. 이 때 하드웨어 플랫폼의 고대역폭 센서 처리 및 AI 연산뿐만 아니라 전체 엣지 컴퓨팅 소프트웨어 스택을 지원하는 엔터프라이즈급 AI 소프트웨어가 필수적입니다.

산업 및 의료 환경을 위해 특별히 설계된 NVIDIA IGX는 엣지 AI에 필요한 성능, 내구성, 보안 및 안전성을 조직에 제공합니다. 맞춤형 시스템을 설계하고 AI 모델을 맞춤화하는 데 수년을 소비하는 대신, IGX는 NVIDIA AI 엔터프라이즈에서 GPU 가속 컴퓨팅을 통해 산업 전반의 고급 AI 솔루션 개발을 가속화하여 시간과 비용을 크게 절감합니다.

Computex 2024에서 IGX는 프로덕션 준비가 완료된 NVIDIA AI 엔터프라이즈 IGX, NVIDIA RTX 6000 Ada dGPU 지원, IGX 시스템 확장 등을 통해 주요 플랫폼 업데이트를 발표했습니다. 향상된 기능은 최대 10년간의 하드웨어 및 소프트웨어 지원과 함께 제공되므로 조직은 AI를 안전하고 안정적으로 제공하여 인간과 기계의 협업을 지원할 수 있습니다.

프로덕션에 사용할 수 있는 NVIDIA IGX 소프트웨어 스택 출시

NVIDIA IGX-SW 1.0의 출시로 NVIDIA IGX의 소프트웨어 스택은 이제 프로덕션에 바로 배포할 수 있습니다. 또한 NVIDIA AI 엔터프라이즈 IGX의 장기 지원뿐만 아니라 NVIDIA의 지원을 받아 안심하고 제품을 배포할 수 있습니다.

멀티모달 생성형 AI 배포 및 고대역폭 신호 처리에 대한 수요 증가에 대응하기 위해 이번 버전에서는 NVIDIA RTX 6000 ADA 그래픽 카드를 지원하여 AI 컴퓨팅을 최대 1705 TOPS까지 확장하였습니다. 온보드 iGPU를 사용할 때보다 AI 성능이 7배 향상되었는데요. 고성능 AI 컴퓨팅을 마음대로 사용할 수 있으므로 까다로운 AI 워크로드를 쉽게 실행하고 생성형 AI 애플리케이션을 손쉽게 지원할 수 있습니다.

또한 이 버전은 설치 프로세스가 간소화되었습니다. 간편한 웹 인터페이스로 모든 펌웨어를 설치할 수 있는 기능을 제공되며 필요한 펌웨어를 선택하고 설치를 선택하면 됩니다.

개발 및 평가를 위해 모든 소프트웨어 스택을 무료로 사용할 수 있는 NVIDIA IGX-SW 1.0를 다운로드하세요.

프로덕션의 경우, 소프트웨어 스택은 NVIDIA 전문가와 함께 엔터프라이즈급 장기 지원을 제공하는 NVIDIA AI Enterprise IGX에서 지원됩니다. NVIDIA AI Enterprise IGX를 구독하면 다음 옵션에 액세스할 수 있습니다:

• 프로덕션 브랜치: 최신 NVIDIA AI 스택을 유지하고 발전 및 최적화를 활용하세요. 6개월마다 새로운 프로덕션 브랜치가 출시되며 각 브랜치는 9개월 동안 유지됩니다. 이는 소매 및 로보틱스와 같은 사용 사례에 이상적이며 최신 AI 모델과 생성형 AI 워크로드를 가져올 수 있습니다.
• 장기 지원 브랜치: 버전이 고정되고 10년간 유지 관리 및 지원됩니다. 2.5년마다 새로운 버전의 스택과 함께 새로운 장기 지원 브랜치가 출시됩니다. 이는 의료 및 과학 컴퓨팅과 같이 규제가 적용되는 사용 사례에 이상적입니다.

두 브랜치 모두 보안 취약성, API 안정성, 버그 수정, 기술 지원, NVIDIA 전문가 및 엔지니어의 적시 해결에 대한 지속적인 모니터링을 제공합니다. 자세한 내용은 NVIDIA AI Enterprise IGX로 엣지에서 중요 업무 AI를 강화하기를 참조하세요.

시작하려면 펌웨어, OS 및 컴퓨팅 스택을 NVIDIA IGX Orin 개발자 키트에 다운로드하세요. 설치에 대한 자세한 내용은 NVIDIA IGX 사용 가이드를 참조하세요.

NVIDIA AI 엔터프라이즈 IGX를 시작하려면 NVIDIA AI 엔터프라이즈 IGX 소프트웨어 평가판을 요청하세요.

의료, 산업 및 로봇 공학용으로 설계된 엔터프라이즈용 애플리케이션 프레임워크

NVIDIA IGX는 NVIDIA에서 엣지에 사용할 수 있는 모든 SDK, 애플리케이션 프레임워크 및 툴을 지원합니다.

여기에는 다음과 같은 애플리케이션 프레임워크가 포함됩니다:

• 엣지부터 클라우드까지 실시간 센서 처리를 위한 NVIDIA Holoscan
• 비전 AI 애플리케이션을 구축, 배포 및 확장하기 위한 NVIDIA Metropolis
• 고성능 로봇 애플리케이션 구축을 위한 NVIDIA Isaac

NGC의 사전 훈련된 모델을 사용하여 모델 개발 시간을 단축하고, 합성 데이터 생성기를 사용하여 모델 훈련용 합성 데이터를 생성하며, NVIDIA TAO 툴킷[링크]을 사용하여 모델을 빠르게 훈련하고 최적화하여 최고의 모델 성능을 달성할 수 있습니다.

비정형 데이터와 다양한 환경을 처리하기 위해 멀티모달 AI와 생성형 AI의 중요성이 점점 커지고 있습니다.

• 의료 분야에서는 의료 진단, 수술용 AI 부조종사, AI 수술 로봇, 환자 치료를 위한 AI 에이전트 등이 가능해졌습니다.
• 제조 계측 분야에서는 실시간 웨이퍼 검사 및 고대역폭 센서 처리가 가능해졌습니다.
• 과학 컴퓨팅 분야에서는 레이더 처리와 전파 천문학이 AI로 구동될 것입니다.
• 산업용 로봇 공학에서는 공장 자동화와 로봇 협업을 AI로 안전하게 보호할 수 있습니다.

이러한 많은 애플리케이션 사례와 생성형 AI 모델은 /nvidia-holohub GitHub 리포지토리에서 확인할 수 있습니다.

NVIDIA 인증 시스템으로 IGX 제품군 확장

NVIDIA IGX Orin 플랫폼은 새로운 제품인 IGX Orin 500 시스템 온 모듈을 출시합니다. 이 제품은 OEM이 고객의 요구 사항을 충족하는 캐리어 보드 및 맞춤형 구성을 설계할 수 있는 유연성을 제공합니다. 엔터프라이즈 소프트웨어 지원은 그대로 유지하면서 IGX Orin 500은 IGX Orin 700(이전 명칭: IGX Orin Boardkit)과 동일한 iGPU, CPU, 메모리, 스토리지를 제공하며 로봇 공학 및 스마트 농업 애플리케이션을 위한 추가 sMCU로 기능 안전을 구현할 수 있는 기능을 갖추고 있습니다.

*1705 TOPS = 248 TOPS (GPU) + 1457 TOPS (6000 Ada dGPU)

OEM 및 ODM 파트너는 NVIDIA IGX Orin 500 설계 가이드를 사용하여 맞춤형 캐리어 보드 설계를 시작할 수 있습니다. 모든 IGX 시스템의 경우, OEM 전체 시스템은 엔터프라이즈급 소프트웨어 지원과 최고의 AI 소프트웨어 성능을 보장하기 위해 동일한 NVIDIA 인증 프로세스를 통과해야 합니다. 이러한 엄격한 테스트 및 검증을 통해 복잡하고 계산 집약적인 생성형 AI 워크로드를 지원할 수 있는 특수 인프라를 배포하는 데 따르는 위험과 시간을 줄일 수 있습니다.

NVIDIA 인증 IGX 시스템은 곧 선별된 OEM 파트너를 통해 제공될 예정입니다. NVIDIA IGX 플랫폼 및 최신 혁신에 대한 자세한 내용은 NVIDIA IGX 페이지 및 IGX 다운로드 센터를 참조하세요.

관련 리소스

• GTC 세션: 데이터 집약적인 AR 애플리케이션 개발의 혁신
• GTC 세션 글로벌 혁신가: NVIDIA AI를 통한 혁신 확장
• NGC 컨테이너: IGX – TensorRT PB (PB 23h2)
• NGC 컨테이너: Iguazio 데이터 사이언스 플랫폼
• SDK: 클라우드 네이티브 스택
• SDK: Omniverse 코어 플랫폼