AI_RAG는 문서 인덱싱, 벡터 검색, 임베딩 생성, LLM 기반 응답 구성을 결합하는 모듈식 검색 보강 생성 솔루션을 제공합니다. 사용자들은 텍스트 문서 코퍼스를 준비하고, FAISS 또는 Pinecone과 같은 벡터 저장소를 연결하며, 임베딩과 LLM 엔드포인트를 구성하고, 인덱싱 프로세스를 실행합니다. 쿼리가 도착하면, AI_RAG는 가장 관련성 높은 구절들을 검색하여, 이를 프롬프트와 함께 선택한 언어 모델에 입력하고, 맥락에 기반한 답변을 돌려줍니다. 확장 가능한 설계는 사용자 지정 커넥터, 다중 모델 지원, 세밀한 검색 및 생성 매개변수 제어를 허용하여 지식 기반과 고급 대화형 에이전트에 이상적입니다.

FlyingAgent는 다양한 도메인에서 추론, 계획, 행동 수행이 가능한 자율 에이전트를 시뮬레이션하는 모듈형 아키텍처를 제공합니다. 에이전트는 내부 메모리를 유지하여 맥락을 기억하며, 웹 탐색, 데이터 분석, 타사 API 호출 등의 작업에 외부 툴킷을 통합할 수 있습니다. 프레임워크는 다중 에이전트 협력, 플러그인 기반 확장, 맞춤형 결정 정책을 지원합니다. 개방형 설계로 개발자는 메모리 백엔드, 도구 통합, 작업 관리자 등을 커스터마이징하여 고객 지원 자동화, 연구 지원, 콘텐츠 생성 파이프라인, 디지털 워크포스 오케스트레이션 등 다양한 분야에 활용할 수 있습니다.

Tongui Agent는 대화 상태를 유지하고, 외부 도구를 활용하며, 여러 하위 에이전트를 조율할 수 있는 모듈형 아키텍처를 제공합니다. 개발자는 LLM 백엔드를 구성하고, 맞춤형 액션을 정의하며, 컨텍스트를 저장하는 메모리 모듈을 부착할 수 있습니다. 이 프레임워크에는 SDK, CLI 및 관찰 가능성을 위한 미들웨어 훅이 포함되어 있어 Web 또는 Node.js 애플리케이션에 쉽게 통합할 수 있습니다. 지원하는 LLM에는 OpenAI, Azure OpenAI, 오픈소스 모델이 있습니다.