SPEAR(Scalable Platform for Edge AI Real-Time)는 에지에서 AI 추론의 전체 수명 주기를 관리하는 데 설계되었습니다. 개발자는 Kafka, MQTT 또는 HTTP 소스에 연결된 커넥터를 통해 센서 데이터, 비디오 또는 로그를 수집하는 스트리밍 파이프라인을 정의할 수 있습니다. SPEAR는 컨테이너화된 모델을 워커 노드에 동적으로 배포하며, 저지연 응답을 위해 클러스터 전체에 부하를 분산합니다. 내장된 모델 버전 관리, 상태 점검, 텔레메트리를 포함하며, Prometheus와 Grafana에 메트릭을 노출합니다. 사용자는 모듈식 플러그인 아키텍처를 통해 사용자 정의 변환이나 알림을 적용할 수 있습니다. 자동 확장과 장애 복구 기능으로, SPEAR는 이기종 환경에서 IoT, 산업 자동화, 스마트 시티, 자율 시스템에 신뢰성 높은 실시간 분석을 제공합니다.

Autonomous Agents는 대형 언어 모델로 구동되는 자율 AI 에이전트를 쉽게 만들 수 있도록 설계된 오픈소스 Python 라이브러리입니다. 인식, 추론, 행동과 같은 핵심 구성 요소를 추상화하여 사용자 정의 도구, 메모리, 전략을 정의할 수 있게 합니다. 에이전트는 다단계 작업을 자율적으로 계획하고, 외부 API를 질의하며, 사용자 정의 파서를 통해 결과를 처리하고, 대화 맥락을 유지할 수 있습니다. 이 프레임워크는 동적 도구 선택, 순차 및 병렬 작업 실행, 메모리 영속성을 지원하여 데이터 분석, 연구, 이메일 요약, 웹 스크래핑 등에 강력한 자동화를 가능하게 합니다. 확장 가능한 설계로 다양한 LLM 제공자 및 사용자 모듈과의 통합이 용이합니다.

OLI(OpenAI Logic Interpreter)는 OpenAI API를 활용하여 웹 애플리케이션 내에서 AI 에이전트 생성을 간소화하도록 설계된 클라이언트 사이드 프레임워크입니다. 개발자는 사용자 프롬프트에 따라 지능적으로 선택되는 맞춤 함수를 정의하고, 여러 상호작용에서 일관된 상태를 유지하기 위해 대화 컨텍스트를 관리하며, 예약이나 보고서 생성과 같은 복잡한 워크플로우를 위해 API 호출을 체인할 수 있습니다. 또한, OLI는 응답 파싱, 오류 처리, 웹훅 또는 REST 엔드포인트를 통한 타사 서비스 통합을 위한 유틸리티를 포함합니다. 완전 모듈식이고 오픈소스이기 때문에 팀은 에이전트 행동을 사용자 정의하고, 새로운 기능을 추가하며, 백엔드 의존성 없이 모든 웹 플랫폼에 OLI 에이전트를 배포할 수 있습니다. OLI는 대화형 UI와 자동화 개발을 가속화합니다.