WorFBench는 대규모 언어 모델 기반 AI 에이전트의 능력을 평가하기 위해 설계된 종합적인 오픈 소스 프레임워크입니다. 일정 계획, 코드 생성 워크플로우 등 다양한 작업을 제공하며, 각각 명확한 목표와 평가 지표를 갖추고 있습니다. 사용자는 맞춤형 에이전트 전략을 구성하고, 표준 API를 통해 외부 도구를 통합하며, 자동 평가를 실행하여 분해, 계획 깊이, 도구 호출 정확도, 최종 출력 품질 등을 기록할 수 있습니다. 내장된 시각화 대시보드는 각 에이전트의 의사결정 경로를 추적하여 강점과 약점을 쉽게 파악할 수 있게 합니다. WorFBench의 모듈형 설계는 새 작업이나 모델을 신속하게 확장할 수 있으며, 재현 가능 연구와 비교 연구를 촉진합니다.

에이전트의 자발적 통신은 멀티 에이전트 시스템이 자체 통신 프로토콜을 개발하는 방법을 탐구하는 연구자를 위해 설계된 오픈소스 PyTorch 프레임워크입니다. 이 라이브러리는 참조 게임, 결합 게임, 객체 식별 과제 등을 포함하는 협력 강화 학습 과제의 유연한 구현을 제공합니다. 사용자는 발신자와 수신자 에이전트의 아키텍처를 정의하고, 어휘 크기와 시퀀스 길이와 같은 메시지 채널 속성을 지정하며, 정책 기울기 또는 감독 학습과 같은 훈련 전략을 선택할 수 있습니다. 프레임워크에는 실험 수행, 통신 효율성 분석, 자발적 언어 시각화를 위한 엔드투엔드 스크립트가 포함되어 있습니다. 모듈식 설계로 새로운 게임 환경이나 맞춤형 손실 함수를 쉽게 확장할 수 있습니다. 연구자들은 발표된 연구를 재현하고, 새로운 알고리즘을 벤치마킹하며, 자발적 에이전트 언어의 구성적 특성과 의미를 탐구할 수 있습니다.