양자 컴퓨팅은 신약 개발부터 소재 과학에 이르기까지 과학과 산업 전반에 걸쳐 혁신을 일으킬 잠재력을 지니고 있습니다. 그러나 실용적이고 대규모의 양자 컴퓨터를 구축하는 일은 상당한 엔지니어링 도전 과제로, 특히 잡음에 덜 민감한 큐비트를 설계하는 데 큰 어려움이 따릅니다.
기존 칩 설계에서는 현대 반도체 산업이 고비용의 생산 단계에 들어가기 전에 소프트웨어 상에서 칩을 설계하고 검증하기 위해 EDA(Electronic Design Automation) 도구를 활용합니다. 마찬가지로, 양자 칩 설계 또한 EDA 도구를 통해 큰 이점을 얻을 수 있습니다. 양자 칩에서의 잡음을 시뮬레이션하는 작업은 매우 복잡한데, 이는 이러한 칩들이 환경의 잡음과 회로 요소 간의 원치 않는 상호작용, 즉 크로스톡(cross-talk)에 매우 민감하기 때문입니다.
NVIDIA는 Lawrence Berkeley National Laboratory(Berkeley Lab) 및 여러 연구진과 협력하여, 양자 칩 설계를 빠르게 반복하고 개선할 수 있도록 GPU 가속 EDA 도구를 위한 하드웨어 및 소프트웨어 플랫폼을 제공합니다.
Berkeley Lab 연구진은 새로운 칩의 전파(full-wave) 시뮬레이션을 위한 오픈소스 시뮬레이션 패키지인 ARTEMIS를 개발했습니다. 이들은 NVIDIA CUDA 플랫폼을 활용해 ARTEMIS를 GPU 가속화하고, 최근에는 NERSC의 Perlmutter 슈퍼컴퓨터에 탑재된 NVIDIA GPU를 이용해 세계 최대 규모의 전체 양자 칩 시뮬레이션을 구현하는 데 성공했습니다.
다양한 길이 척도에 걸친 시뮬레이션
양자 프로세서를 개발하는 데 가장 널리 사용되는 아키텍처 중 하나는 고체 기판 위에 제작된 초전도 큐비트를 활용하는 방식으로, 이는 기존 반도체 제조 공정과 유사한 제작 기법을 사용할 수 있다는 장점이 있습니다.
이러한 큐비트를 정밀하게 시뮬레이션하려면 마이크로미터 규모의 큐비트 구조부터 센티미터 규모의 전체 칩 크기까지, 공간적으로 여러 차원에 걸친 물리 현상을 모두 반영해야 합니다. 그러나 GPU 가속 시뮬레이션이 없었던 이전까지는 칩의 일부 고해상도 영역만을 시뮬레이션하거나, 전체 칩을 저해상도로 모델링하는 방식에 의존해야 했습니다. 이로 인해 연구자들은 정밀도와 확장성 사이에서 불가피한 선택을 해야만 했습니다.
이러한 시스템의 상호 연결된 전자기적 거동을 정확히 반영하려면 계산 집약적인 시간 영역 기반 접근 방식이 필요합니다. 시간 분해 시뮬레이션은 제어 펄스와 마이크로파 신호가 칩 전반을 어떻게 전파되고 반사되며 간섭하는지를 실시간으로 추적할 수 있으며, 이를 통해 주파수 영역 방식으로는 놓치기 쉬운 크로스톡, 모드 결합, 신호 왜곡과 같은 일시적인 효과를 직접적으로 확인할 수 있습니다.

Berkeley Lab의 ARTEMIS 플랫폼은 이러한 포괄적인 시뮬레이션을 NVIDIA GPU에서 병렬 처리에 최적화하여, 전파 기반 시간 영역 전자기 해석을 제공합니다. GPU 가속 시뮬레이션의 뛰어난 확장성 덕분에 ARTEMIS는 미세한 공간적·시간적 세부 정보를 유지하면서도 대규모 칩 수준 시스템을 정밀하게 모델링할 수 있습니다. 마이크로미터 규모의 큐비트 구조부터 센티미터 규모의 제어 라인에 이르기까지 전자기 상호작용을 정밀하게 해석하며, 이러한 다중 스케일 정밀도는 제어 신호와 큐비트 구조 간의 칩 수준 결합 역학에 대한 새로운 물리적 통찰을 제공합니다.

최첨단 양자 칩 시뮬레이션의 새로운 지평
GTC DC에서 발표된 바와 같이, Berkeley Lab과 NERSC는 최신 멀티레이어 양자 칩 전체에 대한 최초의 전파 기반 전자기 시뮬레이션을 수행했습니다. 연구팀은 Perlmutter 시스템의 95%에 해당하는 6,724개의 NVIDIA A100 Tensor Core GPU를 활용해 시뮬레이션을 실행했으며, 1cm 크기의 칩을 마이크로미터 해상도로 100억 개 이상의 격자점으로 이산화(discretization)했습니다.
물리 시간 1나노초를 시뮬레이션하기 위해 필요한 150만 개의 시간 단계를 모델링하는 데 전체 시스템을 활용해 약 8시간이 소요되었습니다. 이 시뮬레이션은 칩의 전체 시간 역학을 모델링하여, 연구자들이 펨토초 수준의 시간 해상도로 칩 내에서 제어 신호가 어떻게 전파되는지를 관찰할 수 있게 했습니다. 이는 초전도 양자 칩 설계에서 가장 큰 난제 중 하나인 크로스톡을 이해하는 데 매우 중요합니다.
검증된 확장형 시뮬레이션 프레임워크로서 NVIDIA CUDA 플랫폼을 활용함으로써, 물리학자들은 이제 새로운 큐비트 아키텍처를 시험하고, 잡음원과 크로스톡을 식별 및 저감하며, 양자 칩을 제작 단계에 들어가기 전에 설계를 검증할 수 있게 되었습니다. 이러한 정보는 설계자가 더 우수하고 견고한 칩을 개발하고 제작 주기를 단축하는 데 필수적이며, 실용적인 양자 컴퓨팅으로 가는 길을 앞당기는 데 필요한 강력한 도구 세트를 제공합니다.

NVIDIA CUDA-Q 플랫폼은 양자 컴퓨팅의 핵심 워크로드에서 획기적인 성과를 가속화하는 즉시 사용 가능한 도구들을 제공합니다.
- CUDA-Q Dynamics 라이브러리가 Google의 Willow 칩 프로젝트를 포함해 양자 칩 설계에 필요한 양자 하드웨어의 동적 시뮬레이션을 어떻게 가능하게 하는지 자세히 알아보세요.
- 가속 컴퓨팅이 양자 컴퓨팅의 가장 큰 과제들을 어떻게 해결하고 있는지도 확인해 보세요.
- CUDA-Q Dynamics를 지금 바로 시작해 보세요.