ragChatbot은 개발자 중심의 프레임워크로, 검색 보강 생성 챗봇의 제작을 간소화하도록 설계되었습니다. LangChain 파이프라인과 OpenAI 또는 기타 LLM API를 결합하여 사용자 지정 문서 코퍼스에 대한 질의 처리를 수행합니다. 사용자는 PDF, DOCX, TXT 형식의 파일을 업로드하고, 텍스트를 자동으로 추출하며, 인기 모델을 사용하여 임베딩을 생성할 수 있습니다. 이 프레임워크는 FAISS, Chroma, Pinecone과 같은 다수의 벡터 저장소를 지원하여 효율적인 유사성 검색이 가능합니다. 다중 턴 대화를 지원하는 대화형 메모리 계층과 프롬프트 템플릿 및 검색 전략을 커스터마이징할 수 있는 모듈형 아키텍처를 제공합니다. 간단한 CLI 또는 웹 인터페이스를 통해 데이터를 인제스트, 검색 매개변수 구성, 컨텍스트 기반의 정확하고 관련성 높은 사용자 질문 답변을 위한 채팅 서버를 실행할 수 있습니다.

Discord AI Agent는 Discord API와 OpenAI 호환 LLM을 활용하여 서버를 인터랙티브 AI 채팅 환경으로 전환시킵니다. 개발자는 슬래시 명령, 메시지 이벤트 또는 예약된 작업을 처리하는 사용자 지정 플러그인을 등록할 수 있으며, 내장 메모리 저장소는 대화의 맥락을 유지하여 일관된 다중 턴 대화를 가능하게 합니다. 이 프레임워크는 비동기 실행, 구성 가능한 모델, 프롬프트 템플릿, 디버깅용 로깅을 지원하며, 하나의 YAML 또는 JSON 구성 파일을 수정하여 API키, 모델 선호도, 명령 프리픽스, 플러그인 디렉토리를 정의할 수 있습니다. 확장 가능한 아키텍처로서, 모더레이션, 퀴즈 게임, 고객 지원 봇 등의 특화 기능도 추가할 수 있습니다. 로컬 또는 클라우드 플랫폼 배포 모두 가능하며, Discord AI Agent는 커뮤니티 참여를 위한 유연하고 유지 보수하기 쉬운 AI 에이전트 구축 과정을 간소화합니다.