Posts by Kirthi Devleker
Agentic AI / Generative AI
2026년 8월 19일
NVIDIA Groq 3 LPX가 NVIDIA Vera Rubin에서 긴 컨텍스트의 초고속 인터랙티비티를 구현하는 방법
NVIDIA Groq 3 LPX는 NVIDIA Vera Rubin 플랫폼을 위한 인터랙티브 AI 추론 가속기입니다. 이 플랫폼의 핵심인 NVIDIA…
8 MIN READ
Agentic AI / Generative AI
2026년 7월 22일
NVIDIA GB300 NVL72에서 MoE 사전 학습 세계 기록 수립
최첨단 프론티어 모델의 사전 학습 방식이 혼합 전문가(MoE, Mixture of Experts) 구조로 모이면서, 대규모 AI 학습의 병목 요인도…
5 MIN READ
AI Platforms / Deployment
2025년 9월 25일
NVIDIA Rubin CPX, 100만 토큰 이상 컨텍스트 워크로드의 추론 성능과 효율을 가속하다
AI에서 추론은 이제 가장 복잡한 과제에 당면한 영역이 되었습니다. 최신 모델은 에이전틱 AI로 진화하며, 다단계 추론과 지속적인 메모리…
3 MIN READ
Generative AI
2025년 9월 25일
NVFP4, 16비트 정밀도와 4비트 성능으로 학습 가속
최근 몇 년간 AI 워크로드는 폭발적으로 증가했습니다. 이는 거대 언어 모델(LLM)의 배포는 물론, 사전 학습과 후속 학습 과정에서 점점 더 많은…
6 MIN READ
Development & Optimization
2025년 2월 13일
DeepSeek-R1 및 추론 시간 스케일링을 통한 GPU 커널 생성 자동화
AI 모델이 점점 더 정교한 문제를 해결하기 위해 기능을 확장하면서, 테스트 시간 확장 또는 추론 시간 확장이라는 개념이 등장하고 있습니다.
4 MIN READ
Data Center / Cloud
2024년 4월 3일
수조 개의 파라미터 LLM 트레이닝 및 실시간 추론을 제공하는 NVIDIA GB200 NVL72
조 단위 매개변수 모델에 대해 흥미로운 점은 오늘날 많은 사용 사례가 있으며, 아래과 같은 작업의 용량이 증가할 수 있다는 점이며 최근 관심이…
6 MIN READ