NVIDIA AI Enterprise IGX를 통해 엣지에서 중요 업무용 AI 지원

Reading Time: 3 minutes

NVIDIA SDK는 스마트 시티, 의료, 로보틱스를 아우르는 다양한 사용 사례에서 AI 애플리케이션을 가속하는 데 중요한 역할을 해왔습니다. 하지만 인간 및 기계의 협업을 안전하게 지원하기 위해 엣지에 배포 가능한 프로덕션급 AI 솔루션을 개발하려면 엔터프라이즈에 적합한 고품질의 하드웨어와 소프트웨어가 모두 필요합니다.

NVIDIA는 엣지에서 중요 업무용 AI 애플리케이션을 가속하고 있습니다. NVIDIA AI Enterprise IGX는 NVIDIA IGX 플랫폼에서 엣지 AI를 실행하기 위한 엔터프라이즈급 소프트웨어 솔루션입니다.

NVIDIA IGX는 강력한 엣지 보안, 원격 관리 기능, 내장 안전 메커니즘과 함께 엣지에 필요한 크기 및 전력 포락선에서 초고속 AI 성능 및 높은 처리량 데이터 처리를 산업 등급 하드웨어에 제공합니다.

NVIDIA IGX와 NVIDIA AI Enterprise의 통합으로 엣지 AI가 더욱 엔터프라이즈 친화적인 환경으로 발전했으며, 접근성과 효율성이 높아졌습니다.

엔터프라이즈를 위한 엣지 AI 요구 사항

AI 스택은 여러 타사 애플리케이션 및 오픈 소스 소프트웨어(OSS)로 만들어지고 여기에 의존합니다. 종속성이 증가하면 AI 소프트웨어 스택의 보안 및 안정성을 유지하는 일이 더 복잡해집니다. 이 리소스 집약적인 작업은 기업의 AI 혁신 속도를 저해합니다.

고려해야 할 요인은 다음과 같습니다.

안정성 및 신뢰성
보안 및 위협 완화
규제 문제

안정성 및 신뢰성

소프트웨어 패키지 내 모든 종속성을 이해하는 것은 API 안정성을 유지하는 데 매우 중요합니다. 타사 및 OSS 패키지를 변경하면 종속 API에서 후속 변경을 해야 할 수도 있으며, 이는 스택 손상으로 이어질 수 있습니다. 이러한 종속성의 네트워크로 인해 엔터프라이즈는 배포 단계에서 최신 오픈 소스 버전을 표준화하는 것이 거의 불가능합니다.

보안 및 위협 완화

계속 확장되는 소프트웨어 종속성은 소프트웨어 취약점을 도입할 위험을 높입니다. 이러한 공격은 데이터 유출, 서비스 중단, 막대한 재정적 손실과 같은 심각한 결과를 초래하는 공격으로 이어질 수 있습니다.

2022년에 보고된 치명적인 취약점의 수는 2021년에 비해 59% 증가해서 총 4,135개입니다. 지연 시간, 개인 정보 보호, 대역폭, 규제 요구 사항의 표준이 더 높은 업계도 이러한 추세를 피할 수 없습니다. Clinicians’ Perspectives on Healthcare Cybersecurity and Cyber Threats 기사에 따르면, 2019년에 사이버 공격의 24%가 헬스케어 산업에서 발생했습니다.병원의 사이버 공격은 2022년에 급증했습니다.

규제 문제

규제가 엄격한 여러 산업에서는 AI 소프트웨어 유지 관리에 엄격한 규정을 적용합니다.

예를 들어 AI가 내비게이션 시스템 및 비행 제어 알고리즘에 점점 더 많이 사용되는 항공우주 분야에서는 엄격한 지침에 따라 시스템 무결성 및 안전 표준을 유지하는 지속적인 모니터링 및 업데이트가 보장됩니다.

마찬가지로, 헬스케어 산업에서 AI 기반 치료 및 진단 도구는 의료 의사 결정 프로세스의 정확도와 신뢰성을 보장하기 위해 엄격한 유지 관리 프로토콜을 준수해야 합니다.

2023년에 FDA는 최종 지침 문서인 ‘의료기기 사이버보안의 품질관리 시스템 고려사항 및 시판 전 제출 항목’을 발표했습니다. 이 문서에는 섹션 524B(‘기기 보장’)에서 요구하는 정보가 포함되지 않은 시판 전 제출 항목에 대한 수락 포기(RTA) 정책이 명시되어 있습니다. FDA는 이제 사이버 보안 표준을 통해 새로운 의료 기기를 거부할 수 있습니다.

NVIDIA AI Enterprise IGX

NVIDIA AI Enterprise IGX는 NVIDIA IGX Orin 플랫폼에서 실행되는 중요 업무용 애플리케이션을 위해 특별 제작된 소프트웨어 솔루션입니다.

전체 소프트웨어 스택에 비교할 수 없는 성능, 보안, 안정성, 지원을 제공하여 기업에서 복잡한 AI 소프트웨어 플랫폼을 유지 및 보호하는 것과 관련된 작업의 부담을 덜어줍니다. 이는 AI 기반 운영을 간소화할 뿐만 아니라 AI 애플리케이션을 대규모로 배포하는 데 더 높은 수준의 신뢰를 심어줍니다.

데이터센터 및 클라우드용 NVIDIA AI Enterprise의 성공을 기반으로 구축된 NVIDIA AI Enterprise IGX의 도입은 이러한 이점을 엣지로 확장합니다.

산업 등급의 고성능 엔터프라이즈급 엣지 솔루션인 NVIDIA AI Enterprise IGX는 NVIDIA IGX와 함께 펌웨어, OS, 드라이버, AI 프레임워크, SDK 및 라이브러리 전반에 걸쳐 포괄적인 엔드 투 엔드 소프트웨어 지원을 제공합니다. NVIDIA IGX를 위해 특별히 구축된 안정적인 소프트웨어 배포를 통해 중요한 사용 사례에서 요구되는 연장된 일정에 대한 하드웨어 및 소프트웨어 지원을 기대할 수 있으며, 단일 지원 소스, 장기적인 API 안정성 및 일관된 소프트웨어 자재 명세서(SBOM)에 의존할 수 있습니다.

포함된 엔터프라이즈 지원의 가치는 기술적 문제를 신속하게 해결하여 엣지 AI 시스템의 안정성과 신뢰성을 보장하고 심각한 재정적 손실이나 운영 중단으로 이어질 수 있는 가동 중단 시간을 방지하는 솔루션을 제공합니다.

*그림 1. NVIDIA AI Enterprise IGX 및 NVIDIA IGX 플랫폼*

NVIDIA AI Enterprise IGX에는 NVIDIA TensorRT, TensorFlow, PyTorch, NVIDIA Triton Inference Server, Holoscan, 엔터프라이즈 Ubuntu Linux 운영 체제와 같은 필수 AI 라이브러리 및 SDK가 포함되어 있습니다.

두 가지 애드온 옵션이 있습니다.

Yocto: Yocto를 배포하는 엔터프라이즈용입니다.
기능적 안전: 산업 제조 분야처럼 안전, 사람, 재산이 가장 중요한 분야입니다. 이를 통해 시스템은 예방적 및 사후적 안전 접근 방식 모두에서 중요한 자산과 인명을 보호할 수 있습니다.

NVIDIA AI Enterprise IGX는 기업이 최첨단 기술을 구축하는 동시에 TCO를 절감하고 시장 출시 시간을 단축하며 제품 개발을 전반적으로 더 효율적으로 만들 수 있도록 설계되었습니다.

유연한 소프트웨어 브랜치가 함께 제공되므로 업계 요구 사항 및 제품 개발 주기에 따라 선택할 수 있는 옵션을 제공합니다.

프로덕션 브랜치: 월간 보안 업데이트를 통해 API 안정성을 보장합니다. 이러한 브랜치는 안정성이 필요한 프로덕션 환경에 AI를 배포하는 데 적합합니다. 9개월의 수명 주기로 6개월마다 릴리스됩니다.
장기 지원 브랜치: 분기별 보안 업데이트를 통해 장기 애플리케이션 수명 주기를 지원합니다. 이러한 브랜치는 엄격히 규제되는 AI 애플리케이션에 적합합니다. 최대 10년의 수명 주기로 2.5년마다 릴리스됩니다.

이 솔루션은 까다롭고 복잡한 엣지 AI 개발 프로세스에서 AI 성공을 위한 입증된 경로를 제공합니다.

NVIDIA AI Enterprise IGX 시작하기

엣지 AI 애플리케이션을 개발하는 중이거나 프로덕션 준비가 되어 있다면 지금 NVIDIA AI Enterprise를 시작하세요.

NVIDIA IGX Orin 개발자 키트로 개발 시작하기
NVIDIA에 문의하여 NVIDIA AI Enterprise IGX 소프트웨어 체험판 요청하기
NVIDIA AI Enterprise IGX 자세히 알아보기

NVIDIA AI Enterprise IGX를 통해 엣지에서 중요 업무용 AI 지원