Jihyeon Roh

카카오에서 AI Research Engineer로서 다양한 LLM 관련 연구를 수행하고 있습니다. 데이터 합성부터 학습, 그리고 서빙까지 이어지는 전 과정을 경험하며, 모델이 실제 환경에서 안정적이고 효율적으로 활용될 수 있도록 하는 연구와 개발을 이어가고 있습니다. 연구와 실서비스를 연결해 실질적 가치를 창출하는 AI에 관심이 많으며, 최근에는 LLM이 보다 자율적이고 상황에 맞게 사고·행동할 수 있는 능력을 키우는 방향의 Agentic AI 연구에 집중하고 있습니다.

Posts by Jihyeon Roh

Generative AI

NVIDIA 양자화 기술과 TensorRT-LLM을 이용한 서비스 최적화

이 글은 최신 LLM 서빙 환경에서 직면한 효율성과 ROI 문제를 해결하기 위해 NVIDIA TensorRT-LLM을 도입한 연구 사례를 다룹니다. 6 MIN READ