Agentic AI / Generative AI

NVIDIA Nemotron으로 검색 증강 생성(RAG) 에이전트 구축하기

Reading Time: 10 minutes

학습 데이터에만 제한되는 기존 LLM 기반 시스템과 달리, 검색 증강 생성(RAG)은 관련 외부 정보를 통합하여 텍스트 생성 품질을 향상시킵니다. 에이전틱 RAG는 LLM과 검색 메커니즘을 통합한 자율 시스템을 활용하여 한 단계 더 나아갑니다. 이를 통해 시스템이 스스로 의사결정을 내리고, 변화하는 요구사항에 적응하며, 복잡한 추론 작업을 동적으로 수행할 수 있습니다.

RAG 에이전트 구축을 위한 자기 주도형 워크숍 가이드를 통해 다음을 습득할 수 있습니다.

  • 개방형 데이터와 가중치를 갖춘 오픈 모델 패밀리인 NVIDIA Nemotron을 포함하여, 에이전트형 RAG의 핵심 원리에 대한 이해
  • LangGraph를 사용하여 에이전틱 RAG 시스템을 구축하는 방법에 대한 지식
  • 즉시 활용 가능한 이식성 높은 개발 환경
  • NVIDIA Launchable로 공유할 수 있도록 맞춤화된 에이전틱 RAG 시스템

영상 안내

영상 1. NVIDIA Nemotron으로 RAG 에이전트 구축하기

워크숍 시작

NVIDIA Launchable로 워크숍을 시작해 보세요.

Button of the “Deploy Now” button for NVIDIA DevX  Workshop
그림 1. ‘Deploy Now’ 버튼을 클릭하면 클라우드에 NVIDIA DevX 워크숍이 배포됩니다.

Jupyter Lab 환경이 실행되면 JupyterLab 런처에서 NVIDIA DevX Learning Path 섹션을 찾은 다음, Agentic RAG 타일을 선택하여 실습 안내서를 열고 시작하시면 됩니다.

시크릿 설정

이 워크숍을 진행하려면 몇 가지 프로젝트 시크릿을 수집하고 구성해야 합니다.

  • NGC API 키: NVIDIA 소프트웨어, 모델, 컨테이너 등에 대한 액세스를 활성화합니다.
  • (선택 사항) LangSmith API 키: 워크숍을 AI 에이전트의 추적 및 디버깅을 위한 LangChain 플랫폼에 연결합니다.

JupyterLab 런처의 NVIDIA DevX Learning Path 아래에 있는 Secrets Manager 타일을 사용하여 워크숍 개발 환경에 대한 시크릿을 구성할 수 있습니다. 로그 탭에서 시크릿이 성공적으로 추가되었는지 확인하세요.

RAG 아키텍처 소개

워크숍 환경 설정이 끝나면, 다음 단계는 구축할 에이전틱 RAG 시스템의 아키텍처를 이해하는 것입니다.

RAG는 글을 작성할 때 관련된 외부 정보를 함께 활용하여 LLM의 성능을 높여줍니다. 기존 언어 모델은 학습한 데이터만 가지고 답변을 만들기 때문에, 빠르게 바뀌는 정보나 전문적인 분야, 기업 보안 데이터를 다룰 때 한계가 있습니다. 반면 RAG는 외부 지식 창고에서 찾아낸 관련 데이터를 토대로 답변을 생성하는 강력한 도구입니다.

일반적인 RAG 시스템의 흐름은 다음과 같습니다.

  1. 프롬프트: 사용자가 자연어 쿼리를 입력합니다.
  2. 임베딩 모델: 프롬프트를 벡터로 변환합니다.
  3. 벡터 데이터베이스 검색: 사용자 프롬프트가 벡터로 임베딩된 후, 시스템은 의미론적으로 색인된 문서 청크로 채워진 벡터 데이터베이스를 검색하여 문맥적으로 관련성 높은 데이터 청크를 빠르게 검색합니다.
  4. 재순위 모델: 검색된 데이터 청크를 재순위화하여 가장 관련성 높은 데이터를 우선시합니다.
  5. LLM: LLM이 검색된 데이터를 기반으로 응답을 생성합니다.

이 방식을 활용하면 언어 모델이 학습 데이터의 한계를 넘어 최신 정보나 구체적인 정보에 접근할 수 있어, 훨씬 다양하고 효과적으로 모델을 활용할 수 있습니다.

ReAct 에이전트 아키텍처 이해

기존 LLM 기반 애플리케이션과 달리, 에이전트는 도구를 동적으로 선택하고 복잡한 추론 과정을 결합하며 상황에 맞춰 분석 방식을 유연하게 바꿀 수 있습니다.

ReAct 에이전트는 도구 호출 기능이 있는 LLM을 통해 추론과 행동을 함께 수행하는 직관적인 에이전트 구조입니다. 프롬프트를 받은 LLM이 도구 호출을 요청하면, 해당 도구를 실행하고 그 결과를 대화 기록에 추가하여 모델에 다시 전달하는 방식으로 작동합니다.

RAG는 효과적인 방식이지만, LLM이 데이터를 어떻게 검색할지 스스로 결정하거나 데이터 품질을 통제할 수 없고 여러 데이터 소스 중 하나를 직접 선택하기도 어렵다는 한계가 있습니다. 에이전틱 RAG는 언어 이해, 문맥 추론, 유연한 문장 생성 같은 LLM의 장점을 동적 도구 활용, 시맨틱 검색, 하이브리드 검색, 재순위화, 데이터 소스 선택 같은 고급 검색 메커니즘과 결합하여 RAG를 한 단계 더 발전시킨 형태입니다. RAG에 쓸 ReAct 에이전트를 만들 때는 에이전트가 정보를 언제 어떻게 검색할지 스스로 판단할 수 있도록 검색 체인을 하나의 도구로 연결해 주기만 하면 됩니다.

에이전틱 RAG는 ReAct 에이전트 아키텍처를 채택합니다. 이 아키텍처에서 추론 LLM은 도구 호출을 통해 정보를 검색할지 또는 직접 응답할지를 체계적으로 결정하며, 사용자 요청에 더 잘 응답하기 위해 추가 컨텍스트가 필요할 때만 검색 파이프라인을 활성화합니다.

코드 학습 및 구현

개념을 이해했으니 이제 직접 코드로 구현해 볼 차례입니다. 완전한 에이전트형 RAG 시스템을 구축하기에 앞서 핵심이 되는 기초 구성요소부터 하나씩 살펴보겠습니다.

  1. 모델
  2. 도구
  3. 데이터 수집
  4. 텍스트 분할
  5. 벡터 데이터베이스 수집
  6. 문서 검색기 및 재순위 모델
  7. 검색기 도구 생성
  8. 에이전트 구성

기초: 모델

워크숍은 에이전트를 구동하는 핵심 모델로 NVIDIA NIM 엔드포인트를 활용합니다. NVIDIA NIM은 다음을 포함한 고성능 추론 기능을 제공합니다.

  • 도구 바인딩(tool binding): 함수 호출에 대한 기본 지원
  • 구조화된 출력: Pydantic 모델에 대한 내장 지원
  • 비동기 작업: 동시 처리를 위한 완전한 async/await 지원
  • 엔터프라이즈급 안정성: 프로덕션 수준의 추론 인프라

다음 예시는 NVIDIA NIM을 사용하는 ChatNVIDIA LangChain 커넥터를 보여줍니다.

from langchain_nvidia_ai_endpoints import ChatNVIDIA
LLM_MODEL = "nvidia/nvidia-nemotron-nano-9b-v2"
llm = ChatNVIDIA(model=LLM_MODEL, temperature=0.6, top_p=0.95, max_tokens=8192)

LLM 기반 애플리케이션의 품질을 보장하려면 에이전트가 명확한 지침을 받아 의사결정을 명확히 하고 모호성을 제거하며 검색된 문서를 어떻게 처리해야 하는지 파악할 수 있도록 하는 것이 중요합니다. code/rag_agent.py의 예시를 다음과 같이 제공합니다.

SYSTEM_PROMPT = (
    "You are an IT help desk support agent.\n"
    "- Use the 'company_llc_it_knowledge_base' tool for questions likely covered by the internal IT knowledge base.\n"
    "- Always write grounded answers. If unsure, say you don't know.\n"
    "- Cite sources inline using [KB] for knowledge base snippets.\n"
    "- If the knowledge base doesn't contain sufficient information, clearly state what information is missing.\n"
    "- Keep answers brief, to the point, and conversational."
)

이 프롬프트는 RAG 기반 애플리케이션을 위한 신뢰할 수 있는 LLM 프롬프팅의 몇 가지 핵심 원칙을 보여줍니다.

  • 역할 명시: 에이전트의 전문성과 책임에 대한 명확한 정의
  • 도구 활용: 특정 작업에 사용할 도구를 에이전트에 지시
  • 근거 기반: 신뢰할 수 있는 출처를 기반으로 답변을 제공하고 불확실한 경우 이를 인정하는 것의 중요성 강조
  • 출처 인용: 투명성을 보장하기 위한 출처 인용 지침 제공
  • 커뮤니케이션 스타일: 원하는 커뮤니케이션 스타일 명시

code/rag_agent.py에서 IT 헬프데스크 에이전트가 지식 베이스를 활용하여 사용자 쿼리에 답변하는 데 필요한 모델을 정의합니다.

  • LLM 모델인 Nemotron Nano 9b V2는 응답 생성에 사용되는 기본 추론 모델입니다.
  • NVIDIA NeMo Retriever 임베딩 모델인 Llama 3.2 EmbedQA 1b V2는 문서를 저장 및 검색을 위한 벡터 임베딩 표현으로 변환하는 데 사용됩니다.
  • NeMo Retriever 재순위 모델인 Llama 3.2 RerankQA 1b V2는 검색된 문서와 데이터 중 가장 관련성 높은 것을 재순위화하는 데 사용됩니다.

이러한 오픈 모델들이 결합하여 언어 생성, 문서 검색, 재순위화 기능을 통해 IT 헬프데스크 에이전트가 사용자 쿼리에 정확하게 답변할 수 있도록 합니다.

기초: 도구

RAG 에이전트는 일반적인 IT 관련 절차를 문서화한 마크다운 파일이 포함된 ./data/it-knowledge-base에 제공된 지식 베이스에 액세스할 수 있습니다. 검색기 도구를 통해 에이전트는 사용자 쿼리와 관련된 문서를 내부 IT 지식 베이스에서 검색할 수 있습니다.

벡터 데이터베이스는 벡터로 변환한 임베딩 값을 저장하고 인덱싱하여 쿼리를 수행합니다. 이를 통해 텍스트, 이미지, 오디오 같은 비정형 데이터 속에서 유사한 정보를 빠르게 찾아낼 수 있습니다.이번 워크숍에서는 소규모 데이터베이스를 효율적으로 다루기 위해 메모리 내에서 작동하는 FAISS 데이터베이스를 활용합니다. 지식 창고에 데이터를 채워 넣는 데이터 수집 단계에서는 우선 텍스트 수집에 집중하며, 멀티모달 기능 같은 추가 요소들은 실제 서비스 구축 단계에서 고려하는 것이 좋습니다.

기초: 데이터 수집

활용하는 임베딩 모델은 NeMo Retriever llama-3.2-nv-embedqa-1b-v2입니다. 이 모델은 쿼리와 문서 간의 의미론적 유사도를 비교하여 지식 베이스에서 관련 문서를 효율적으로 검색하는 데 도움이 되는 문서와 쿼리용 임베딩을 생성합니다.

문서를 수집하기 위해 문서를 청크로 분할하고, 해당 청크를 벡터로 임베딩한 다음 데이터베이스에 삽입합니다. 그 전에 LangChain DirectoryLoader를 사용하여 ./data/it-knowledge-base 디렉터리에서 데이터를 로드해야 합니다.

from langchain_community.document_loaders import DirectoryLoader, TextLoader
# Read the data
_LOGGER.info(f"Reading knowledge base data from {DATA_DIR}")
data_loader = DirectoryLoader(
    DATA_DIR,
    glob="**/*",
    loader_cls=TextLoader,
    show_progress=True,
)
docs = data_loader.load()

기초: 텍스트 분할

문서 분할은 청크 크기와 청크 중복이라는 두 가지 요소로 조절합니다.

청크 크기는 각 텍스트 청크의 최대 길이를 지정합니다. 이는 각 청크가 언어 모델과 검색 시스템에서 처리되기에 가장 알맞은 크기를 갖도록 해줍니다. 청크가 너무 크면 특정 쿼리와 관련 없는 정보까지 포함될 수 있고, 반대로 너무 작으면 중요한 앞뒤 맥락을 놓칠 수 있습니다.

청크 중복은 연이어 나오는 청크 사이에 서로 겹치게 할 토큰 수를 지정합니다. 이는 청크가 나뉘더라도 글의 연속성을 보장하고 맥락을 보존하여 검색된 정보의 일관성을 유지하기 위함입니다.

텍스트 분할을 효율적으로 처리하기 위해 RecursiveCharacterTextSplitter를 사용합니다. 이 도구는 문자 길이를 기준으로 문서를 잘게 나누며, 설정한 청크 크기와 중복 매개변수에 맞춰 재귀적으로 텍스트를 쪼개 나갑니다. 분량이 많은 대용량 문서를 처리하거나 정보 검색의 전반적인 정확도를 높일 때 특히 유용합니다.

from langchain.text_splitter import RecursiveCharacterTextSplitter
CHUNK_SIZE = 800
CHUNK_OVERLAP = 120

_LOGGER.info(f"Ingesting {len(docs)} documents into FAISS vector database.")
splitter = RecursiveCharacterTextSplitter(
    chunk_size=CHUNK_SIZE, chunk_overlap=CHUNK_OVERLAP
)
chunks = splitter.split_documents(docs)

기초: 벡터 데이터베이스 수집

관련 정보를 효율적으로 검색하기 위해 대용량 문서 코퍼스(corpus)를 벡터 데이터베이스에 수집해야 합니다. 문서를 관리 가능한 청크로 분해했으니, 임베딩 모델을 사용하여 각 문서 청크에 대한 벡터 임베딩을 생성합니다.

이러한 임베딩은 청크의 의미론적 내용을 수치적으로 표현한 것입니다. 고품질 임베딩은 효율적인 유사도 검색을 가능하게 하여 사용자 쿼리에 응답하여 가장 관련성 높은 청크를 빠르게 식별하고 검색할 수 있습니다.

다음 단계는 생성된 임베딩을 인메모리 FAISS 데이터베이스에 저장하는 것입니다. 이를 통해 실시간 정보 검색에 필요한 빠른 인덱싱과 쿼리 성능을 확보할 수 있습니다. 이번 예시에서는 LangChain이 제공하는 FAISS.from_documents 메서드를 활용하여, 단 한 번의 함수 호출만으로 문서 청크의 임베딩 생성과 FAISS 벡터 스토어 저장을 동시에 처리합니다.

from langchain_community.vectorstores import FAISS
from langchain_nvidia_ai_endpoints import NVIDIAEmbeddings,

embeddings = NVIDIAEmbeddings(model=RETRIEVER_EMBEDDING_MODEL, truncate="END")
vectordb = FAISS.from_documents(chunks, embeddings)

임베딩 모델의 강력한 기능을 활용하여 이러한 단계를 따르면 IT 헬프데스크 에이전트가 지식 베이스에서 관련 정보를 효율적으로 검색하고 처리할 수 있습니다.

기초: 문서 검색기 및 재순위 모델

벡터 데이터베이스를 채우고 나면 콘텐츠 검색을 위한 체인을 구축할 수 있습니다. 이는 임베딩 단계와 조회 단계를 하나로 연결해 매끄러운 워크플로우를 만드는 작업입니다.

임베딩 단계에서 사용자 쿼리는 문서 청크를 변환할 때 썼던 것과 동일한 모델을 거쳐 임베딩으로 바뀝니다. 이렇게 하면 쿼리와 문서 청크가 모두 같은 의미론적 공간에 표현되므로 정확하게 유사도를 비교할 수 있습니다.

이번 예시에서는 검색기를 초기화할 때 시맨틱 유사도를 기준삼아, 쿼리와 가장 연관성 높은 결과를 상위 6개까지 가져오도록 설정합니다.

# imports already handled
kb_retriever = vectordb.as_retriever(search_type="similarity", search_kwargs={"k": 6})

조회 단계에서는 사용자 쿼리의 임베딩을 벡터 데이터베이스에 저장된 임베딩과 비교합니다. 그런 다음 시스템이 가장 유사한 문서 청크를 찾아내고, 이 내용을 바탕으로 최종 응답을 생성합니다.

임베딩 모델과 재순위 모델 모두 NVIDIA NeMo Retriever의 NIM 마이크로서비스를 사용합니다. LangChain을 통해 임베딩 단계와 조회 단계 모두를 포함하는 벡터 데이터베이스 객체에서 기본 검색 체인을 손쉽게 생성할 수 있습니다.

검색된 문서의 관련성과 순서를 개선하기 위해 NVIDIA NeMo Retriever Reranker 모델을 기반으로 구축된 NVIDIA Rerank 클래스를 활용할 수 있습니다. Reranker 모델은 검색된 문서 청크를 사용자 쿼리와의 관련성을 기준으로 평가하고 순위를 매겨 가장 적합한 정보가 먼저 제공되도록 합니다. 이 예시에서 Reranker는 다음과 같이 초기화합니다.

from langchain_nvidia_ai_endpoints import NVIDIARerank
reranker = NVIDIARerank(model=RETRIEVER_RERANK_MODEL)

기초: 검색기 도구 생성

문서 검색기와 문서 재순위 모델을 사용하여 최종 문서 검색기를 다음과 같이 생성할 수 있습니다.

RETRIEVER = ContextualCompressionRetriever(
    base_retriever=kb_retriever,
    base_compressor=reranker,
)

LangChain의 ContextualCompressionRetriever는 검색기와 추가 처리 단계를 쉽게 결합하여 검색 체인을 재순위 모델에 연결합니다. 이제 ReAct 에이전트를 활성화하는 검색기 도구를 생성할 수 있습니다.

이 예시에서는 아래 LangChain 도구 패키지를 사용하여 초기화된 검색기를 전달하는 방식으로 검색기 도구를 초기화할 수 있습니다.

from langchain.tools.retriever import create_retriever_tool
RETRIEVER_TOOL = create_retriever_tool(
    retriever=RETRIEVER,
    name="company_llc_it_knowledge_base",
    description=(
        "Search the internal IT knowledge base for Company LLC IT related questions and policies."
    ),
)

기초: 에이전트 구성

벡터 데이터베이스와 검색기 체인을 갖추고 나면 에이전트 그래프를 구성할 준비가 끝납니다. 이 에이전트 그래프는 모델이 작업을 완수하는 과정에서 취할 수 있는 모든 단계를 그려둔 일종의 순서도 역할을 합니다. 순서대로만 진행되는 기존 LLM 애플리케이션에서는 이를 ‘체인(chain)’이라고 불렀지만, 워크플로우가 더 동적이고 비선형적인 의사결정을 포함할 때는 ‘그래프(graph)’라고 부릅니다. 에이전트는 눈앞에 놓인 작업의 맥락과 요구사항에 따라 다른 경로를 선택하며 다양한 결정 노드로 갈라져 나아갈 수 있습니다.

ReAct 에이전트 아키텍처의 보편성을 고려하여 LangGraph는 ReAct 에이전트 그래프를 생성하는 함수를 제공합니다. 이 예시에서는 다음과 같이 활용합니다.

from langgraph.prebuilt import create_react_agent
AGENT = create_react_agent(
    model=llm,
    tools=[RETRIEVER_TOOL],
    prompt=SYSTEM_PROMPT,
)

에이전트 그래프를 구성함으로써 IT 헬프데스크 에이전트가 복잡한 의사결정 프로세스를 처리할 수 있는 동적이고 유연한 워크플로를 만들 수 있습니다. 이 접근 방식은 에이전트가 정보를 효율적으로 검색하고 처리하며, 정확한 응답을 제공하고, 다양한 시나리오에 적응할 수 있도록 합니다.

에이전트 실행

축하합니다! 에이전트를 성공적으로 구축하셨습니다. 이제 다음 단계는 에이전트를 직접 실행해 볼 차례입니다.

터미널에서 에이전트를 구동하려면 우선 에이전트 코드가 들어 있는 Python 파일 경로인 code 디렉터리로 이동하세요. 그다음 LangGraph CLI를 사용해 Agent API를 시작하시면 됩니다. 코드를 수정하고 저장하면 에이전트가 자동으로 다시 로드됩니다.

langraph dev

에이전트와 대화할 수 있도록 Simple Agents Client에 간단한 Streamlit 앱을 포함해 두었습니다. Jupyter 런처 페이지에 있는 Streamlit 클라이언트를 통해서도 접속할 수 있습니다. 사이드바에서 rag_agent 클라이언트가 잘 선택되어 있는지 확인한 뒤, 채팅을 시작해 보세요.

에이전트가 더욱 정교해짐에 따라 내부 복잡성을 관리하기 어려워질 수 있습니다. 추적(tracing)은 에이전트가 수행하는 각 단계를 시각화하여 에이전트 동작을 디버그하고 최적화하기 쉽게 만들어 줍니다. 워크숍에서는 LANGSMITH_API_KEY를 선택적으로 구성하고 LangSmith 대시보드에서 추적 결과를 확인할 수 있습니다.

로컬 NIM 마이크로서비스로 마이그레이션

이 워크숍은 NVIDIA API 카탈로그nvidia-nemotron-nano-9b-v2 LLM을 활용합니다. 이 API는 다양한 모델 평가, 빠른 실험에 유용하며 시작은 무료입니다. 그러나 프로덕션에 필요한 무제한 성능과 제어를 위해서는 NVIDIA NIM 마이크로서비스 컨테이너를 사용하여 로컬에 모델을 배포하세요.

일반적인 개발 워크플로에서는 에이전트와 NIM 컨테이너 모두 백그라운드에서 실행되어 멀티태스킹과 빠른 반복이 가능합니다. 이 실습에서는 출력을 쉽게 모니터링하고 올바른 시작을 확인하기 위해 NIM을 포그라운드에서 실행할 수 있습니다.

먼저 다음과 같이 NGC 컨테이너 레지스트리에 로그인해야 합니다.

echo $NVIDIA_API_KEY | \
  docker login nvcr.io \
  --username '$oauthtoken' \
  --password-stdin

다음 단계는 NIM 컨테이너가 다운로드된 모델 파일을 저장할 위치를 생성하는 것입니다.

docker volume create nim-cache

이제 Docker run 명령어를 사용하여 NIM 컨테이너 이미지와 모델 데이터 파일을 가져온 후 로컬의 OpenAI 호환 API를 통해 모델을 호스팅해야 합니다.

docker run -it --rm \
    --name nemotron \
    --network workbench \
    --gpus 1 \
    --shm-size=16GB \
    -e NGC_API_KEY=$NVIDIA_API_KEY \
    -v nim-cache:/opt/nim/.cache \
    -u $(id -u) \
    -p 8000:8000 \
    nvcr.io/nim/nvidia/nvidia-nemotron-nano-9b-v2:latest

몇 분 후 “Application startup complete”가 표시되면 NIM이 추론 준비가 완료된 것입니다.

INFO 2025-09-10 16:31:52.7 on.py:48] Waiting for application startup.
INFO 2025-09-10 16:31:52.239 on.py:62] Application startup complete.
INFO 2025-09-10 16:31:52.240 server.py:214] Uvicorn running on http://0.0.0.0:8000 (Press CTRL+C to quit)
...
INFO 2025-09-10 16:32:05.957 metrics.py:386] Avg prompt throughput: 0.2 tokens/s, Avg generation throughput: 1.1 tokens/s, Running: 0 reqs, Swapped: 0 reqs, Pending: 0 reqs, GPU KV cache usage: 0.0%, CPU KV cache usage: 0.0%.

이제 NIM이 로컬에서 실행되고 있으므로 rag_agent.py에서 생성한 에이전트를 업데이트하여 사용해야 합니다.

llm = ChatNVIDIA(
    base_url="http://nemotron:8000/v1",
    model=LLM_MODEL,
    temperature=0.6,
    top_p=0.95,
    max_tokens=8192
)

LangGraph 서버가 켜져 있는 상태에서 Simple Agents Client로 돌아가 에이전트에 다시 질문을 던져보세요. 마이그레이션 작업이 완벽하게 끝났다면 이전과 똑같이 잘 작동할 것입니다!

축하합니다! 이제 LangGraph 에이전트가 로컬 NIM 마이크로서비스를 바라보도록 전환하는 마이그레이션 과정을 모두 마치셨습니다!

결론 및 다음 단계

이 워크숍은 기본 개념부터 정교한 에이전트 시스템까지 포괄적인 학습 과정을 제공하며, 프로덕션 수준의 도구와 기술을 활용한 실습 학습을 강조합니다.

이 워크숍을 완료하면 개발자들은 다음에 대한 실무 경험을 쌓게 됩니다.

  • 기본 개념: 표준 RAG와 에이전틱 RAG의 차이점 이해
  • 상태 관리: 복잡한 상태 전환 및 지속성 구현
  • 도구 통합: 에이전틱 도구 호출 기능 생성 및 관리
  • 현대 AI 스택: LangGraph, NVIDIA NIM 및 관련 툴링 활용

더 알아보기

실습 과정이나 유용한 팁, 노하우가 궁금하시다면 Nemotron Labs의 라이브스트림 다시보기인 “NVIDIA Nemotron으로 RAG 에이전트 구축하기“를 시청해 보세요.

NVIDIA Nemotron 관련 최신 소식을 빠르게 받아보시려면 NVIDIA 뉴스를 구독하고 NVIDIA AI를 LinkedIn, X, Discord, YouTube에서 팔로우하세요.

동영상 튜토리얼 및 라이브스트림을 통해 NVIDIA Nemotron을 최대한 활용하세요.

Discuss (0)

Tags