기본적으로 AI Orchestra는 개발자가 AI 에이전트, 도구, 맞춤형 모듈을 나타내는 노드를 정의할 수 있는 모듈식 오케스트레이션 엔진을 제공합니다. 각 노드는 특정 LLM(예: OpenAI, Hugging Face), 매개변수, 입력/출력 매핑으로 구성할 수 있어 동적 작업 위임이 가능합니다. 이 프레임워크는 구성 가능한 파이프라인, 동시성 제어, 분기 로직을 지원하여 중간 결과에 따라 적응하는 복잡한 흐름을 만듭니다. 내장된 텔레메트리와 로깅은 실행 세부 정보를 캡처하며, 콜백 후크는 오류와 재시도를 처리합니다. 플러그인 시스템에는 외부 API 또는 맞춤형 기능과의 통합도 포함되어 있습니다. YAML 또는 Python 기반의 파이프라인 정의로 사용자는 채팅 기반 어시스턴트부터 자동화된 데이터 분석 워크플로우에 이르기까지 몇 분 만에 견고한 다중 에이전트 시스템을 프로토타입하고 배포할 수 있습니다.

LangGraphJS API는 유향 그래프를 사용하여 AI 에이전트 워크플로우를 설계하는 프로그래밍 인터페이스를 제공합니다. 그래프 내의 각 노드는 LLM 호출, 의사 결정 로직 또는 데이터 변환을 나타냅니다. 개발자는 노드를 체인으로 연결하고, 분기 로직을 처리하며, 비동기 실행을 원활하게 관리할 수 있습니다. TypeScript 정의와 인기 있는 LLM 제공업체에 대한 내장 통합을 통해 대화형 에이전트, 데이터 추출 파이프라인 및 복잡한 다중 단계 프로세스의 개발이 간소화됩니다.