NVIDIA는 2023년 7월 NVIDIA LaunchPad를 통해 컨피덴셜 컴퓨팅(CC) 초기 버전 솔루션을 비공개 프리뷰 형태의 얼리 액세스 버전으로 출시했습니다. 컨피덴셜 컴퓨팅은 가상화된 환경에서 사용할 수 있으며 현재 업계 최고의 성능으로 최고 수준의 보안을 제공합니다. NVIDIA H100 Tensor 코어 GPU는 CC에 관한 지원을 도입한 최초의 GPU입니다.
이 릴리스의 압도적인 성공 덕분에 이제 CUDA 12.4에서 CC를 통한 단일 GPU 패스스루 지원이 정식 출시 버전으로 제공됩니다. 액세스는 무료 핸즈온 랩 NVIDIA H100 컨피덴셜 컴퓨팅을 통한 컨피덴셜 VM 애플리케이션 개발을 참조하세요.
이제 새로운 컨피덴셜 컴퓨팅 기능 사용 가능
NVIDIA는 계속해서 컨피덴셜 컴퓨팅의 최전선에서 CPU 파트너, 클라우드 제공업체, 독립 소프트웨어 공급업체(ISV)와 협력하여 기존의 가속화된 워크로드에서 가속화된 컨피덴셜 워크로드로의 변경이 원활하고 투명하게 이뤄지도록 보장합니다.
NVIDIA H100 Tensor 코어 GPU의 컨피덴셜 컴퓨팅을 위한 최신 릴리스에는 다음이 포함됩니다.
- 성능 최적화
- 컨피덴셜 컴퓨팅을 위한 드라이버의 보안 강화
보안의 중요성
보안은 오늘날과 같이 상호 연결된 세계에서 매우 중요합니다. 생성된 방대한 양의 데이터는 비즈니스에 엄청난 잠재력을 제공하며 모든 산업 전체의 미래에 영향을 미칠 수 있습니다. 수년 동안 이동 데이터(예: 인터넷을 통한 데이터 전송) 및 저장 데이터(예: 저장된 데이터 암호화)에 관한 보호는 보안 환경 전반에 걸쳐 다양한 공급업체를 통해 제공되었습니다.
그러나 이러한 공급업체 중 상당수는 사용 중인 데이터가 암호화되지 않고 노출되어 공격에 취약할 수 있다는 사실을 인식하지 못했습니다. CC는 사용 중인 데이터를 보호하고 권한이 없는 사용자가 데이터에 액세스하거나 데이터를 수정하는 것을 방지합니다.
많은 고객이 데이터에 대해 AI 훈련 또는 추론을 실행하는 방향으로 이동함에 따라 데이터와 코드를 보호할 필요성이 높아졌으며, 특히 거대 언어 모델(LLM)을 실행할 때는 더욱 그렇습니다. 많은 고객은 데이터의 민감성 때문에 클라우드에 데이터를 배치하는 위험을 감수할 수 없습니다. 이러한 데이터에는 개인 식별 정보(PII) 또는 회사 독점 정보가 포함될 수 있으며, 훈련된 모델에는 귀중한 지적 재산(IP)이 있습니다.
컨피덴셜 컴퓨팅은 AI 모델과 데이터를 보호하는 최고의 솔루션입니다. NVIDIA를 사용하면 고객은 성능과 보안 사이에서 타협할 필요가 없습니다.
NVIDIA H100 GPU를 위한 하드웨어 및 소프트웨어 보안
NVIDIA H100 Tensor 코어 GPU에서 컨피덴셜 컴퓨팅을 시작하는 데 필요한 하드웨어와 소프트웨어를 확인하세요.
하드웨어
NVIDIA H100 GPU의 CC에 관한 인프라 요구 사항에는 VM 기반 TEE(Trusted Execution Environment)를 지원하는 CPU가 포함됩니다.
CPU CC 기술
- AMD SEV-SNP
- Intel TDX CPU
지원되는 CPU
- AMD Milan(EPYC 7XX3) 또는 AMD Genoa(EPYC 9XX4)
- Intel Emerald Rapids
지원되는 GPU
- NVIDIA H100 Tensor 코어 GPU 등 NVIDIA Hopper 아키텍처에서 지원되는 모든 GPU 보호 및 방화벽, H100 PCle 및 H100 NVL 폼 팩터
소프트웨어
- NVIDIA 드라이버: CUDA 12.4 데이터센터 드라이버(r550) 이상
- 지원되는 하이퍼바이저: Azure Hyper-V, KVM
- 지원되는 운영 체제
- AMD: Ubuntu 22.04(커널 5.19)(벤더 포크)
- Intel: Ubuntu 22.04(커널 6.2)(벤더 포크)
Linux 배포판
- Linux 6.9 커널(호스트 및 게스트 지원)
요약
이제 CUDA 12.4에서 CC를 통한 단일 GPU 패스스루 지원이 정식 출시 버전으로 제공됩니다. 액세스는 무료 핸즈온 랩 NVIDIA H100 컨피덴셜 컴퓨팅을 통한 컨피덴셜 VM 애플리케이션 개발을 참조하세요. 최신 릴리스에서 NVIDIA는 컨피덴셜 컴퓨팅과 관련된 드라이버의 보안 강화 외에도 성능 최적화를 추가했습니다. 배포 가이드 및 관련 문서는 NVIDIA 신뢰할 수 있는 컴퓨팅 솔루션을 참조하세요.
더 자세한 정보를 살펴보고 시작하려면 NVIDIA 컨피덴셜 컴퓨팅 페이지를 방문하세요.
관련 리소스
- GTC 세션: 컨피덴셜 컴퓨팅: 새로운 기능 및 NVIDIA 하드웨어 증명
- GTC 세션: 신뢰할 수 있는 환경에서 Federated Learning을 사용하는 분산된 협업 AI
- GTC 세션: 대규모 데이터세트에 관한 GPU 액세스 가속화 및 보안
- NGC 컨테이너: Kubernetes용 NVIDIA 컨피덴셜 컴퓨팅 관리자
- NGC 컨테이너: GenAI SD NIM
- NGC 컨테이너: NVIDIA GPU Operator
