GenAI Processors는 재사용 가능하고 구성 가능한 프로세서 라이브러리를 제공하여 엔드 투 엔드 생성 AI 워크플로우를 구축합니다. 문서를 수집하고 의미 단위로 나누며 임베딩을 생성, 저장 및 검색하는 것뿐만 아니라 검색 전략을 적용하고 동적으로 프롬프트를 생성하여 대형 언어 모델 호출을 할 수 있습니다. 플러그 앤 플레이 디자인 덕분에 맞춤형 처리 단계 확장, Google Cloud 서비스 또는 외부 벡터 저장소와의 원활한 통합, 질문 답변, 요약, 지식 검색과 같은 복잡한 RAG 파이프라인 오케스트레이션이 용이합니다.

Kaizen은 자동화된 LLM 기반 에이전트의 생성 및 관리를 간단하게 하는 고급 AI 에이전트 프레임워크입니다. 다단계 워크플로우 정의, API를 통한 외부 도구 통합, 상태 유지를 위한 메모리 버퍼 저장이 가능한 모듈식 아키텍처를 제공합니다. 파이프라인 빌더는 프롬프트 연결, 코드 실행, 데이터베이스 쿼리를 하나의 조율된 실행 내에서 수행할 수 있게 합니다. 내장된 로깅과 모니터링 대시보드는 에이전트 성능과 리소스 사용에 대한 실시간 통찰력을 제공합니다. 개발자는 클라우드 또는 온프레미스 환경에 에이전트를 배포할 수 있으며 자동 확장도 지원합니다. LLM과의 상호작용 및 운영상의 문제를 추상화하여 Kaizen은 고객 지원, 연구, DevOps 등 다양한 분야에서 빠른 프로토타입 제작, 테스트 및 확장을 가능하게 합니다.

Co-Sight는 실시간 비디오 분석 솔루션의 개발과 배포를 간소화하는 오픈 소스 AI 프레임워크입니다. 비디오 데이터 수집, 전처리, 모델 학습, 엣지 및 클라우드에서의 분산 추론을 위한 모듈을 제공합니다. 객체 감지, 분류, 추적 및 파이프라인 오케스트레이션을 기본 제공하며, 낮은 지연 시간과 높은 처리량을 보장합니다. 모듈식 설계로 인기 딥러닝 라이브러리와 쉽게 통합되고 Kubernetes를 통해 원활하게 확장됩니다. 개발자는 YAML로 파이프라인을 정의하고 Docker로 배포하며 웹 대시보드를 통해 성능을 모니터링할 수 있습니다. Co-Sight는 스마트 시티 감시, 지능형 교통, 산업 품질 검사 등 고급 비전 애플리케이션을 구축하는 데 도움이 되며 개발 시간과 운영 복잡성을 줄입니다.