2022년 ‘KISTI-NVIDIA GPU Hackathon’이 7월 18일부터 7월 22일까지 5일간 온라인으로 개최됐습니다. NVIDIA와 한국과학기술정보연구원(KISTI), OpenACC, 세종대학교가 공동으로 개최한 이번 해커톤은 크게 3가지의 워크로드에 대한 문제를 해결하는 총 7개의 팀이 참가했습니다. 이들은 KISTI의 슈퍼컴퓨터 보조시스템인 GPU 클러스터(NEURON)를 활용하여 AI 연구개발, HPC 코드 가속화 등의 프로젝트를 수행했습니다.
이번 해커톤에는 1개의 HPC팀과 5개의 AI팀, 1개의 ProVisualization팀이 참가하여, 작년과 다르게 AI 참가팀이 증가했고, 3개의 팀이 헬스케어 분야의 주제를 들고 참가하여 최근 코드 가속화의 트렌드 변화를 엿볼 수 있는 행사였습니다. 이 밖에 재료공학, 기상기후, 음성인식, 의료영상, AR 등의 7개 팀 참가자들은 총 28명의 KISTI 및 NVIDIA 비롯한 각 산학계 국내·외 전문가 멘토들과 함께, 프로그래밍 모델 또는 머신 러닝 프레임워크와 병렬 계산을 위한 표준 프로그래밍 언어인 ‘OpenACC’, ‘파이토치(PyTorch)’ 및 ‘CUDA’를 이용했죠. 또한 AR모델링을 위해 NVIDIA Omniverse를 활용하고, USD(Universal Scene Description) 플러그인을 사용해 3D 워크 플로우를 연결하며 Omniverse RTX 렌더러를 활용해 실시간으로 시각화했습니다. 각 참가팀은 최소 1.46배부터 최대 50배에 이르는 성능 가속화에 성공했으며, 해커톤 참가 팀 모두 성능 가속화를 위한 다양한 기법에 대해 멘토와 토론하고 배우고 적용하며 성장하는 기회를 얻었습니다.
KISTI 과학데이터교육센터 안부영 센터장은 “매년 더 많은 참가자들이 지원하고 있어 참가팀을 선발하는데 고민이 많았으며, 최근 연구 동향을 가장 빠르게 살펴볼 수 있는 행사가 바로 해커톤이 아닌가”라며, “KISTI-NVIDIA GPU Hackathon은 참가자들 간의 경쟁이 아닌 협동을 살펴볼 수 있는 행사였으며, 모든 팀들이 참가 전에 목표한 바를 달성하고 새로운 목표를 다시 세우는 모습을 보며 좀 더 많은 기회가 마련되어 더 많은 참가자들에게 전문성을 키울 수 있는 기회가 될 수 있도록 노력하겠습니다”고 말했습니다. 또한 NVIDIA Senior Developer Relations Manager 서완석 상무는 “지난해와 달리 AI 참여팀이 늘어났고, 헬스케어 분야 3개 팀을 중심으로 다양한 주제로 참여해 최근 코드 가속화의 트렌드 변화를 보여주는 행사였습니다. 의미 있는 결과를 낼 수 있어 모두가 만족했었던 해커톤이었으며 AI 수요 증가 측면에서 더 많은 부트캠프와 인하우스 코드 가속에 초점을 맞추는 HPC 과학자를 위한 AI 해커톤을 별도로 개최 하는 것을 고려해도록 하겠습니다.”라고 말했습니다.
소셜 아워
온라인으로 진행되는 행사의 한계를 극복하고 참가자들 간의 협력관계를 증진하기 위해, 메타버스를 활용한 ‘게더 타운 스페이스(Gather Town Space)’를 마련했습니다. 참가자들과 멘토들이 모여 ‘소셜 아워(Social Hour)’를 통해 프로젝트 수행 경험을 나누며 우의를 다지는 시간을 가졌죠. 또한, 첫 번째 날에는 GPU 병렬 컴퓨팅, AI 학습, AI 추론 분야의 미니 세미나를 진행했으며, 매일 진행되는 데일리 스크럼 발표 준비와 멘토 싱크업 세션을 통해 멘토들은 참가팀과 또는 멘토 간의 소통을 강화하여 참가 팀들의 목표를 달성하기 위해 실시간으로 지원했습니다.
5일간의 행사 기간동안 총 1,829개의 게시물과 358개의 작업 자료가 슬랙(slack)에 올라오는 등 온라인 진행임에도 불구하여 그 열기가 매우 뜨거웠습니다.
참가자들의 프로젝트
MDIL Laboratory 팀(서울대)에서는 인공 신경망을 활용하여 분자 역학을 시뮬레이션 하기 위한 인하우스 코드 애플리케이션인 SIMPLE-NN을 바탕으로 GPU 병렬화 알고리즘을 적용하기 위해 해커톤에 참가했습니다. LAMMPS와 NVIDIA HPC SDK를 바탕으로 OpenACC 라이브러리를 적용함으로서 메인 코드 루프에서 NVIDIA V100 Single GPU 기준으로 1.46배의 성능 가속화를 실현했고 해커톤 이후에도 multi GPU 병렬화 작업을 지속적으로 진행할 예정입니다.
SIA-NMSC팀(SI Analytics, NMSC)에서는 CrevNet를 바탕으로 하는 기상 위성 영상 시계열 예측 모델을 이번 해커톤을 통해 단일 GPU 전용 코드를 멀티 GPU용으로 적용하고, PyTorch 기반에서 DDP와 AMP, 프로파일러를 적용하여 최대 2.2 배의 가속화를 실현했습니다.
BNL팀(서울대)에서는 인간의 정신, 인지 및 행동을 예측하기 위해 기능적 뇌 이미징 데이터(시계열 3D 데이터)에서 뇌 표현을 학습하기 위한 4D Spatiotemporal Self-Supervised Brain Transformer 딥 러닝 모델 코드의 라지 스케일을 위한 데이터 병렬화를 적용하기 위해 이번 해커톤에 참여했습니다. PyTorch 기반에서 DDP, AMP, Nsight 프로파일링 기법 적용하여 최대 4배의 가속화를 달성했죠.
MVL팀(서울대병원)에서는 OCT 데이터를 바탕으로 세그멘테이션 과제를 수행하여 Wet AMD(노화 관련 황반 변성) 질병을 예측하는 딥 러닝 기반 모델을 바탕으로 효율적인 딥 러닝 학습 알고리즘 적용을 과제로 해커톤에 참가했는데요. PyTorch 기반 DDP 및 AMP 적용으로 7배 빠른 학습 속도와 1.6배적은 메모리 적용을 성과로 달성했습니다.
MoNET (연세대 의대)팀에서는 PET와 MRI 이미지를 바탕으로 가벼운 인지 장애를 가진 환자들이 결국 알츠하이머 병으로 발전할 것인지 안정적으로 유지될 것인지를 예측하는 딥 러닝 기반 모델 바탕으로 고속 추론 적용을 위해 이번 해커톤에 참가했습니다. PyTorch 기반으로 딥 러닝 추론을 위한 TensorRT 및 Triton Inference Server, NVIDIA 프로파일러를 적용하여 추론 최적화를 진행했고, 최대 89% 더 빠른 추론속도와 10X 추론 시간 가속화를 달성했습니다.
Greece (삼성 리서치, SKT)팀에서는 음성 번역 애플리케이션 개발을 위해 PyTorch 기반 최신 fairseq 모델을 바탕으로 자원이 부족한 기기를 효율적으로 추론하는 방법에 대한 해결책을 찾기 위해 해커톤에 참여했습니다. NVIDIA Jetson Nano 개발자 키트에서 fairseq 모델 음성 추론을 적용하고 TensorRT를 통한 추론 최적화를 통해 인코더 블록의 지연 시간을 34.6 초에서 0.7초로 50배 가속화 달성했죠.
VIRNECT (버넥트)는 산업용 AR 애플리케이션 개발을 위해 서버 사이드 렌더링에 NVIDIA Omniverse를 적용하는 과제로 해커톤에 참여했습니다. 로컬 웹 렌더러 대비 Omniverse 기반 RTX 렌더러에서 최대 16배의 성능 가속화를 이뤘으며, 추후 자사의 AR 어플리케이션에 Omniverse XR, Simulation, Replicator와 같은 기능을 채택하는 노력을 지속적으로 실행할 예정입니다.
NVIDIA AI 개발자 밋업 – KISTI Hackathon 특집!
NVIDIA AI 개발자 밋업이 8월 30일 오후 2시부터 3시 30분까지 온라인으로 진행됩니다! 이번 밋업에서는 7개의 참가팀과 총 28명의 KISTI 및 NVIDIA를 포함한 각 산학계 국내·외 전문가 멘토들과 함께 진행한 KISTI-NVIDIA GPU Hackathon에 대해 알아볼 예정입니다. 최대 50배의 성능 가속화를 이룬 해커톤 참가팀들의 프로젝트 경험과 노하우를 직접 공개하며, 이외에도 딥 러닝 학습/추론 가속화 기법 활용 방법, GPU 병렬 프로그래밍의 정수, 옴니버스의 실제 사용 사례, HPC/AI 학습 및 추론 성능 최적화 기법 등 궁금한 점들도 물어볼 수 있는 시간이 준비되어 있습니다. 밋업 등록은 여기에서 접수할 수 있습니다.
