NVIDIA LaunchPad 무료 체험판으로 엣지 AI 관리하기

Reading Time: 4 minutes

엣지에 배포되는 AI 애플리케이션의 성장에 따라 IT 조직은 엣지 컴퓨팅 시스템과 소프트웨어를 배포하고 관리하는 가장 좋은 방법을 모색하고 있습니다.

NVIDIA Fleet CommandNVIDIA-Certified System을 안전한 엣지 어플라이언스로 변환하고 몇 분 만에 클라우드에 연결하여 다양한 규모의 기업에 안전한 엣지 AI를 제공합니다.클라우드에서는 NGC 카탈로그 또는 NGC 개인 레지스트리에서 애플리케이션을 배포 및 관리하고, 시스템 소프트웨어를 무선으로 업데이트하고, 브라우저와 인터넷 연결만으로 시스템을 원격 관리할 수 있습니다.

조직이 Fleet Command의 이점을 확인하기 위해 NVIDIA LaunchPad를 사용하여 제품을 테스트해 볼 수 있습니다.LaunchPad는 선별 랩을 통해 전용 하드웨어 및 Fleet Command 소프트웨어에 대한 액세스를 제공하므로 사용자가 엣지에서 AI 애플리케이션을 배포 및 관리하는 전체 프로세스를 살펴볼 수 있습니다. 

이 게시물은 LaunchPad의 Fleet Command 체험판을 소개하고 신청 대상, 선별 랩 환경을 완료하는 데 걸리는 시간 및 다음 단계에 대한 자세한 내용을 포함합니다.

Fleet Command 체험 대상

Fleet Command는 여러 엣지 위치에서 AI 애플리케이션 관리를 담당하는 IT 및 OT 전문가를 위해 설계되었습니다.제품의 단순성 덕분에 기술 수준에 상관없이 모든 전문가가 쉽게 사용할 수 있습니다. 

선별된 랩은 데모 애플리케이션의 배포 과정을 안내합니다.엣지 프로젝트가 임박한 경우 Fleet Command 기능을 테스트하는 데 데모 애플리케이션을 사용할 수는 있지만, 전체 현장 테스트는 여전히 필요합니다.

Fleet Command 랩 환경은 엣지에서 AI 애플리케이션을 배포하고 관리할 수 있도록 설계되었습니다.NVIDIA LaunchPad는 NVIDIA Base Command를 통해 교육 환경을 관리할 수 있는 기타 랩과 엔터프라이즈 데이터센터에서 간소화된 AI 개발 및 배포를 수행할 수 있는 NVIDIA AI Enterprise를 제공합니다.

Fleet Command 선별 랩에 포함된 사항

이 체험판에서 사용자는 교차로의 자동차 수 계산을 위한 컴퓨터 비전 애플리케이션을 배포하는 Fleet Command 관리자 역할을 합니다.전체 체험판을 완료하는 데 약 1시간이 소요됩니다.

NGC에서 Fleet Command에 액세스하기

Fleet Command는 AI용 GPU 최적화 소프트웨어 허브인 NGC를 통해 어디서든 액세스할 수 있어 관리자가 엣지 위치, 시스템 및 애플리케이션을 원격으로 관리할 수 있습니다.

관리자는 NGC 콘솔에 추가된 Fleet Command를 자동으로 보유합니다.

엣지 위치 만들기

Fleet Command의 위치는 물리적 시스템이 설치되는 실제 위치를 나타냅니다.랩에서는 하나의 엣지 위치를 만들지만 고객은 프로덕션 단계에서 수천 개의 위치를 관리할 수 있습니다. 

새로운 위치를 추가하려면 위치 추가를 선택하고 세부 정보를 작성합니다. 제공되는 최신 버전을 선택하세요. 

Screenshot of the user interface of how to add a location.
그림 1. NVIDIA Fleet Command에서 관리할 위치 추가

엣지 시스템 추가하기

다음으로 시스템을 엣지의 물리적 시스템을 나타내는 위치에 추가합니다.이 단계를 완료하면 Fleet Command 운영 스택으로 현장 서버를 안전하게 프로비저닝하는 데 사용할 수 있는 코드가 생성됩니다.그런 다음 방금 만든 위치를 선택하고 시스템 추가를 선택합니다.

Screenshot of the user interface showing existing locations.
그림 2. 위치에 엣지 시스템 추가

시스템 이름과 설명을 추가하여 프로세스를 완료합니다.

시스템이 위치에 추가되면 Fleet Command를 현장의 물리적 시스템에 페어링하는 데 사용되는 생성된 활성화 코드를 받게 됩니다.

Screenshot of the generated activation code for pairing the new system.
그림 3. Fleet Command의 시스템을 엣지 서버에 연결하기 위해 생성된 활성화 코드

Fleet Command를 LaunchPad 서버에 연결하기

NVIDIA LaunchPad는 체험판과 연결된 서버에 액세스할 수 있는 시스템 콘솔을 제공합니다. 안내 메시지에 따라 설치를 완료합니다. 최초 설정이 끝나면 Fleet Command에서 시스템을 만들어 생성된 활성화 코드를 입력하는 프롬프트가 표시됩니다.

Screenshot of the server boot prompt to type in the activation code.
그림 4.엣지 서버를 Fleet Command에 페어링

활성화 코드를 입력하면 Fleet Command와의 페어링이 마무리됩니다. Fleet Command 사용자 인터페이스의 확인란을 보면 서버가 실행 중이며 원격으로 관리될 수 있음을 알 수 있습니다.

Screenshot of the user interface  showing the connected servers.
그림 5. 엣지 서버의 페어링이 완료되어 이제 Fleet Command에서 제어 가능

AI 애플리케이션 배포하기

이제 로컬 설치 프로그램이 Fleet Command에 페어링된 시스템을 갖추고 있으므로 AI 애플리케이션을 배포할 수 있습니다. 애플리케이션은 NGC 개인 레지스트리에서 호스팅하거나 NGC 카탈로그에서 바로 호스팅할 수 있습니다.

Screenshot of the user interface with applications.
그림 6. NGC의 애플리케이션을 해당 위치에 추가

AI 애플리케이션은 Kubernetes 애플리케이션을 정의, 설치 및 업그레이드하는 데 사용되는 Helm 차트를 사용하여 배포됩니다.애플리케이션 추가를 선택하고 프롬프트에 정보를 입력합니다.

이제 애플리케이션이 Fleet Command에 준비되었으므로 하나 또는 여러 시스템에 배포할 수 있습니다. 위치 및 만든 애플리케이션을 선택하여 배포를 만듭니다. 이때 애플리케이션 액세스를 활성화하는 확인란을 선택해야 합니다. 

Screenshot of the user interface to create a deployment.
그림 7. 배포 만들기

이제 애플리케이션이 서버에 배포되며 체험판 애플리케이션의 샘플 비디오 데이터에서 실행되는 애플리케이션을 확인할 수 있습니다.

수고하셨습니다.지금까지 엣지의 물리적 시스템에 연결하고, 배포를 만들고, AI 애플리케이션을 해당 엣지 서버에 푸시하는 엔드 투 엔드 프로세스를 살펴보았습니다. 1시간 안에 체험판은 연결이 끊긴 원격 시스템에서 안전한 완전 관리형 원격 엣지 환경으로 전환됩니다.

다음 단계는?

Fleet Command는 보안성, 유연성 또는 확장성 저하 없이 엣지 컴퓨팅 인프라 관리를 단순화할 수 있는 강력한 도구입니다.Fleet Command가 나의 엣지 AI 인프라 관리에 적합한 도구인지 알고 싶다면 NVIDIA LaunchPad 체험판을 신청하세요.

Discuss (0)

Tags

답글 남기기