ChainStream은 대형 언어 모델의 부분 출력을 실시간으로 스트리밍하는 크로스 플랫폼 모바일 및 데스크탑 추론 프레임워크입니다. LLM 추론을 하위 모델 체인으로 분할하여 점진적 토큰 전달을 가능하게 하며, 인지된 지연 시간을 줄입니다. 개발자는 간단한 C++ API를 사용하여 ChainStream을 앱에 통합할 수 있으며, ONNX Runtime 또는 TFLite와 같은 백엔드 선택 및 파이프라인 단계 맞춤화도 가능합니다. 이는 Android, iOS, Windows, Linux, macOS에서 실행되어 서버 의존 없이 AI 기반 채팅, 번역, 어시스턴트 기능을 온 디바이스에서 제공합니다.

Memonto는 AI 에이전트의 미들웨어 라이브러리로, 전체 메모리 수명 주기를 조율합니다. 각 대화 턴마다 사용자 및 AI 메시지를 기록하고, 중요한 세부 정보를 요약하며, 이 요약을 임베딩으로 변환하여 저장합니다. 새 프롬프트를 생성할 때, Memonto는 의미론적 검색을 수행하여 가장 관련성 높은 과거 기억을 검색하며, 에이전트가 맥락을 유지하고, 사용자 선호도를 기억하며, 맞춤형 응답을 제공할 수 있도록 합니다. SQLite, FAISS, Redis 등 여러 저장소 백엔드를 지원하며, 임베딩, 요약, 검색을 위한 구성 가능한 파이프라인을 제공합니다. 개발자는 기존 에이전트 프레임워크에 쉽게 통합하여 일관성과 장기 참여를 강화할 수 있습니다.