LLM-구동 RAG 시스템은 검색 강화 생성(RAG) 파이프라인을 구축하기 위한 개발자 중심 프레임워크입니다. 문서 컬렉션 임베딩, FAISS, Pinecone 또는 Weaviate를 통한 인덱싱, 런타임에 관련 컨텍스트를 검색하는 모듈을 제공합니다. 이 시스템은 LangChain 래퍼를 사용하여 LLM 호출을 오케스트레이션하며, 프롬프트 템플릿, 스트리밍 응답 및 다중 벡터 저장소 어댑터를 지원합니다. 지식 기반에 대한 엔드투엔드 RAG 배포를 간소화하며, 임베딩 모델 구성, 프롬프트 디자인, 결과 후처리 등 각 단계에서 맞춤형 구성이 가능합니다.

Graph_RAG는 검색 강화 생성(RAG)을 위한 지식 그래프를 구축하고 쿼리하는 데 사용되는 Python 기반 프레임워크입니다. 비구조적 문서의 수집, LLM 또는 NLP 도구를 활용한 엔티티 및 관계의 자동 추출, Neo4j와 같은 그래프 데이터베이스에 저장하는 것을 지원합니다. Graph_RAG를 이용해 개발자는 연결된 지식 그래프를 구성하고, 의미론적 그래프 쿼리를 실행하여 관련 노드 및 경로를 파악하며, 검색된 컨텍스트를 LLM 프롬프트에 공급할 수 있습니다. 모듈식 파이프라인, 구성 가능한 구성요소, 통합 예제를 제공하여 효과적인 엔드투엔드 RAG 애플리케이션을 지원하며, 구조화된 지식 표현을 통해 답변의 정확성과 해석력을 향상시킵니다.