cuda graphs

2024년 8월 9일

CUDA 그래프로 llama.cpp AI 추론 최적화하기

오픈 소스인 llama.cpp 코드 베이스는 원래 2023년에 출시된 가볍지만 효율적인 프레임워크로서 Meta Llama 모델에 대한 추론을…
5 MIN READ
2024년 6월 12일

QUELO-G 및 CUDA 그래프를 사용하여 양자 역학으로 향상된 신약 개발

신약 개발에서는 소위 고전적인 역장에 기반한 접근 방식이 일상적으로 사용되어 왔으며 유용한 것으로 간주되었습니다. 그러나 역장 모델에는 몇 가지…
5 MIN READ
디바이스 그래프 실행으로 CUDA 그래프에서 동적 제어 흐름 활성화
2022년 12월 29일

디바이스 그래프 실행으로 CUDA 그래프에서 동적 제어 흐름 활성화

CUDA 디바이스 그래프 실행은 CUDA 커널 내에서 동적 제어 흐름을 실현하는 높은 성능의 방법을 제공합니다.
5 MIN READ