WorFBench는 대규모 언어 모델 기반 AI 에이전트의 능력을 평가하기 위해 설계된 종합적인 오픈 소스 프레임워크입니다. 일정 계획, 코드 생성 워크플로우 등 다양한 작업을 제공하며, 각각 명확한 목표와 평가 지표를 갖추고 있습니다. 사용자는 맞춤형 에이전트 전략을 구성하고, 표준 API를 통해 외부 도구를 통합하며, 자동 평가를 실행하여 분해, 계획 깊이, 도구 호출 정확도, 최종 출력 품질 등을 기록할 수 있습니다. 내장된 시각화 대시보드는 각 에이전트의 의사결정 경로를 추적하여 강점과 약점을 쉽게 파악할 수 있게 합니다. WorFBench의 모듈형 설계는 새 작업이나 모델을 신속하게 확장할 수 있으며, 재현 가능 연구와 비교 연구를 촉진합니다.

llm-tournament는 대규모 언어 모델을 벤치마킹할 수 있는 모듈형 확장 가능한 방법을 제공합니다. 사용자는 참가자(LLMs)를 정의하고, 토너먼트 브라켓을 구성하며, 프롬프트와 채점 로직을 지정하고, 자동 라운드를 실행합니다. 결과는 리더보드와 시각화에 집계되어 LLM 선택과 미세 조정 결정에 데이터를 활용할 수 있게 합니다. 이 프레임워크는 맞춤형 작업 정의, 평가 지표, 클라우드 또는 로컬 환경에서의 배치 실행을 지원합니다.