SmartRAG는 대규모 언어 모델과 함께 사용하는 모듈식 Python 라이브러리입니다. 문서 수집, 벡터 인덱싱, 최신 LLM API를 결합하여 정확하고 맥락이 풍부한 응답을 제공합니다. 사용자는 PDF, 텍스트 파일 또는 웹페이지를 임포트하고, FAISS 또는 Chroma 같은 인기 벡터 저장소를 이용해 인덱싱하며, 맞춤형 프롬프트 템플릿을 정의할 수 있습니다. SmartRAG는 검색, 프롬프트 조합, LLM 추론을 조율하여 출처 문서에 기반한 일관된 답변을 제공합니다. RAG 파이프라인의 복잡성을 추상화하여 지식 기반 Q&A 시스템, 챗봇, 연구 지원 도구 개발을 가속화합니다. 개발자는 커넥터를 확장하거나 LLM 공급자를 바꾸거나 검색 전략을 미세 조정하여 특정 지식 도메인에 맞게 조정할 수 있습니다.

A2A4J는 경량 Java 프레임워크로, 자율형 AI 에이전트 구축을 위해 설계되었습니다. 에이전트, 도구, 메모리, 플래너에 대한 추상화를 제공하며, 작업의 비동기 실행과 OpenAI 및 기타 LLM API와의 원활한 통합을 지원합니다. 모듈식 설계로 사용자 정의 도구와 메모리 저장소를 정의하고, 단계별 워크플로우를 조정하며, 의사 결정 루프를 관리할 수 있습니다. 내장된 오류 처리, 로깅, 확장성으로 인텔리전트 Java 애플리케이션과 마이크로서비스 개발을 가속화합니다。