SmartRAG는 대규모 언어 모델과 함께 사용하는 모듈식 Python 라이브러리입니다. 문서 수집, 벡터 인덱싱, 최신 LLM API를 결합하여 정확하고 맥락이 풍부한 응답을 제공합니다. 사용자는 PDF, 텍스트 파일 또는 웹페이지를 임포트하고, FAISS 또는 Chroma 같은 인기 벡터 저장소를 이용해 인덱싱하며, 맞춤형 프롬프트 템플릿을 정의할 수 있습니다. SmartRAG는 검색, 프롬프트 조합, LLM 추론을 조율하여 출처 문서에 기반한 일관된 답변을 제공합니다. RAG 파이프라인의 복잡성을 추상화하여 지식 기반 Q&A 시스템, 챗봇, 연구 지원 도구 개발을 가속화합니다. 개발자는 커넥터를 확장하거나 LLM 공급자를 바꾸거나 검색 전략을 미세 조정하여 특정 지식 도메인에 맞게 조정할 수 있습니다.

Contoso Creative Writer는 Azure AI 서비스를 사용하여 AI 기반 창작 지원 도구를 구축하고 배포하는 방법을 보여주는 오픈소스 샘플 프로젝트입니다. Azure OpenAI 모델, Bot Framework, 선택적 Semantic Kernel 통합을 활용하여, 이 에이전트는 대화형 프롬프트를 통해 스토리 아이디어, 캐릭터 배경, 대사 제안, 플롯 개요를 생성합니다. 개발자는 프롬프트 템플릿을 커스터마이징하고, 어조와 스타일을 조절하며, 추가 데이터 소스를 통합할 수 있습니다. 이 애플리케이션은 Azure Bot Service로 구동되는 웹 채팅 인터페이스를 포함하며, 실시간 상호 작용과 원활한 클라우드 배포를 지원합니다. 모듈화된 아키텍처와 명확한 코드 예제로, Contoso Creative Writer는 픽션 스토리텔링부터 마케팅 카피 생성까지 맞춤형 글쓰기 솔루션의 기반이 됩니다.

LangChain RAG 에이전트 챗봇은 문서를 수집하고 OpenAI 모델로 임베딩한 후 FAISS 벡터 데이터베이스에 저장하는 파이프라인을 구축합니다. 사용자의 쿼리가 도착하면 LangChain 검색 체인이 관련 구절을 가져오고, 에이전트 실행기가 검색과 생성 도구를 조율하여 맥락이 풍부한 답변을 생성합니다. 이 모듈형 아키텍처는 사용자 지정 프롬프트 템플릿, 여러 LLM 공급자 및 구성 가능한 벡터 저장소를 지원하며, 지식 기반 챗봇 구축에 적합합니다.