스마트 스페이스는 전례 없는 가치를 제공하며 물리적 세계와 디지털 세계 사이에 지속적인 정보 흐름을 만들어냅니다.
세계적 수준의 비즈니스는 IoT(사물인터넷), 클라우드 컴퓨팅, 머신 러닝, AI 등의 기술을 엣지에 통합함으로써 디지털 데이터를 확보하여 실행 가능한 인사이트를 도출할 수 있습니다.
하지만 이 프로세스는 외부와 단절된 데이터센터의 경계 밖에서 분산된 엣지 환경으로 인해 복잡하여, 여러 위치에서 관리가 필요합니다.
산업용 임베디드 플래시 메모리 및 DRAM 솔루션 제공업체인 Innodisk는 자회사 Aetina를 위한 스마트 팩토리를 구축하는 동시에 이러한 문제를 해결하기 위해 노력했습니다. Innodisk는 NVIDIA와 긴밀히 협력하여 산업 설정을 위한 고성능 엔드 투 엔드 비전 AI 솔루션을 구축하는 작업을 시작했습니다.
AI 프로젝트는 AI 모델 개발과 AI 모델 배포, 이 두 단계로 나뉩니다. 이 게시물에서는 이러한 단계와 관련된 일반적인 문제와 Innodisk가 어떻게 다양한 도구와 기술을 활용하여 이 문제를 해결했는지를 다룹니다.
AI 모델 개발
이 프로젝트는 엄격한 품질 생산 표준을 충족할 수 있는 제품 검사 솔루션 개발로 시작되었습니다. Innodisk에서 생산하는 플래시 메모리 및 DRAM 제품은 가혹한 환경과 분야를 위해 설계된 작고 복잡한 부품입니다.
Innodisk는 고해상도 이미지 인식 작업을 신속하게 처리할 수 있는 솔루션이 필요했으며 엣지 AI 모델을 개발할 당시 몇 가지 일반적인 문제를 극복하는 데 어려움을 겪었습니다. 이러한 문제에는 원시 데이터 부족, 긴 데이터 처리 시간, 비용이 많이 드는 모델 트레이닝, 높은 컴퓨팅 성능 요구 사항, 모델 배포 준비 상태 확인 등이 있었습니다.
Aetina는 NVIDIA AI Enterprise를 통해 이용 가능한 NVIDIA TAO Toolkit을 사용하여 단 며칠 만에 Innodisk의 요구 사항에 맞게 맞춤 제작된 생산 준비 AI 모델을 만들었습니다. 이 과정은 일반적으로 몇 달은 걸리지만, Aetina는 모델을 처음부터 훈련하는 대신 NVIDIA 사전 훈련 모델을 미세 조정하여 프로세스 속도를 높였습니다.
트레이닝 후, 모델은 애플리케이션에 통합되었습니다. Aetina는 엣지에서 쉽게 배포할 수 있게 애플리케이션을 컨테이너화했습니다. 그런 다음 맞춤형 컨테이너를 전용 레지스트리에 업로드했습니다.
AI 모델 배포
애플리케이션을 마무리하고 난 다음 단계는 대규모 배포 및 관리를 위한 솔루션을 찾는 것이었습니다.
이에 Aetina는 엣지 배포를 관리하기 위해 클라우드 기반 기술로 전환했습니다. 이를 위해 컨테이너화된 애플리케이션용 오픈 소스 시스템인 Kubernetes를 사용하여 애플리케이션을 배포하는 헬름 차트를 만들었습니다.
Aetina는 NVIDIA TAO Toolkit을 통해 모델 개발에서 배포로 빠르게 전환했습니다. 하지만 모델 배포에도 복잡함은 따랐습니다. 기업들은 종종 긴 배포 시간, 보안 문제, 비싼 배포 및 모니터링 비용으로 고민합니다.
Aetina는 이러한 문제를 해결하기 위해 NVIDIA Fleet Command를 이용했습니다.
Fleet Command는 엣지에서 시스템 및 AI 애플리케이션의 프로비저닝과 배포를 간소화하는 컨테이너 오케스트레이션용 관리형 플랫폼입니다. 애플리케이션이 배포되고 나면, AI 수명 주기는 무선 애플리케이션 업데이트, 원격 모니터링 및 관리, 누출 및 데이터 위조에 대한 엄격한 데이터 보호를 통해 단순화됩니다.
Aetina는 Fleet Command를 사용하여 AI 모델을 빠르고 쉽게 배포했습니다.
엔드 투 엔드 AI 워크플로우 정복하기
Innodisk는 현재 이 비전 AI 솔루션을 사용하여 1초 이내에 정확한 검사를 수행하여 더 많은 제품을 효율적이고 비용 효과적으로 구축할 수 있도록 지원하고 있습니다.
이전까지는 공장 라인에 배치된 사람 검사자가 동일한 작업을 수행하는 데 10초나 소요되었습니다. 이 솔루션을 통해 공장 근로자는 단조로운 작업에서 벗어나 더 중요한 기능에 집중할 수 있습니다.
이 프로세스를 통해, Aetina는 다른 조직에서도 환경을 스마트 스페이스로 전환하는 데 사용할 수 있는 엔드 투 엔드 솔루션을 구축하게 되었습니다.
이 솔루션에 대해 자세히 알아보려면 온맨드 GTC 세션 엔드 투 엔드 스마트 팩토리 AI 애플리케이션: 모델 개발에서 Aetina를 통한 배포까지를 확인해 보세요.
이 블로그에 열거된 SDK의 대부분의 독점 액세스, 얼리 액세스, 기술 세션, 데모, 교육 과정, 리소스는 NVIDIA 개발자 프로그램 회원은 무료로 혜택을 받으실 수 있습니다. 지금 무료로 가입하여 NVIDIA의 기술 플랫폼에서 구축하는 데 필요한 도구와 교육에 액세스하시고 여러분의 성공을 가속화 하세요.
