SPEAR(Scalable Platform for Edge AI Real-Time)는 에지에서 AI 추론의 전체 수명 주기를 관리하는 데 설계되었습니다. 개발자는 Kafka, MQTT 또는 HTTP 소스에 연결된 커넥터를 통해 센서 데이터, 비디오 또는 로그를 수집하는 스트리밍 파이프라인을 정의할 수 있습니다. SPEAR는 컨테이너화된 모델을 워커 노드에 동적으로 배포하며, 저지연 응답을 위해 클러스터 전체에 부하를 분산합니다. 내장된 모델 버전 관리, 상태 점검, 텔레메트리를 포함하며, Prometheus와 Grafana에 메트릭을 노출합니다. 사용자는 모듈식 플러그인 아키텍처를 통해 사용자 정의 변환이나 알림을 적용할 수 있습니다. 자동 확장과 장애 복구 기능으로, SPEAR는 이기종 환경에서 IoT, 산업 자동화, 스마트 시티, 자율 시스템에 신뢰성 높은 실시간 분석을 제공합니다.

AgentMesh는 개발자가 특정 작업 또는 도메인에 집중하는 AI 에이전트 네트워크를 생성할 수 있는 모듈식 인프라를 제공합니다. 에이전트는 런타임에 동적으로 검색 및 등록되고, 메시지를 비동기적으로 교환하며, 구성 가능한 라우팅 규칙을 따릅니다. 이 프레임워크는 재시도, 폴백, 오류 복구를 처리하여 데이터 처리, 의사결정 지원 또는 대화용 케이스를 위한 다중 에이전트 파이프라인을 가능하게 합니다. 기존 LLM 및 사용자 정의 모델과 간단한 플러그인 인터페이스를 통해 쉽게 통합할 수 있습니다.