CamelAGIは、自律型AIエージェントの作成を簡素化するためのオープンソースフレームワークです。カスタムツール用のプラグインアーキテクチャ、コンテキスト持続性のための長期記憶の統合、GPT-4やLlama 2などの複数の大規模言語モデルへの対応を特徴としています。明示的な計画と実行モジュールを通じて、エージェントはタスクを分解し、外部APIを呼び出し、時間とともに適応できます。CamelAGIの拡張性とコミュニティ主導のアプローチにより、研究プロトタイプから本番システム、教育プロジェクトまで幅広く適用可能です。

llama-cpp-agentは完全にオフラインで動作するAIエージェントのためのオープンソースのC++フレームワークです。 llama.cpp推論エンジンを利用して高速低遅延のインタラクションを提供し、モジュール化されたプラグインシステム、設定可能なメモリ、タスク実行をサポートします。開発者はカスタムツールの統合、ローカルの異なるLLMモデル間の切り替え、およびプライバシー重視の対話型アシスタントの構築が可能であり、外部依存性はありません。

Universal Basic Computeは、多様なワークフローにわたるAIエージェントの設計、訓練、展開のための統一された環境を提供します。ユーザーは複数の大型言語モデルから選択し、文脈認識用のカスタムメモリストアを設定し、サードパーティAPIやツールの統合も可能です。このプラットフォームはオーケストレーション、故障耐性、スケーリングを自動で処理し、リアルタイム監視とパフォーマンス分析のためのダッシュボードも提供します。インフラの詳細を抽象化することで、チームはバックエンドの複雑さではなくエージェントロジックとユーザー体験に集中できます。

Emma-Xは、大規模言語モデルを使用した会話型AIアシスタント構築のためのモジュール式エージェントオーケストレーションプラットフォームを提供します。開発者はJSON設定を通じてエージェントの動作を定義し、OpenAIやHugging Face、ローカルエンドポイントなどのLLMプロバイダーを選択し、検索、データベース、カスタムAPIなどの外部ツールを追加できます。内蔵のメモリレイヤーはセッション間の文脈を保持し、UIコンポーネントはチャット表示、ファイルアップロード、インタラクティブなプロンプトを処理します。プラグインフックを利用してリアルタイムのデータ取得、分析、カスタムアクションボタンが可能です。Emma-Xには、顧客サポート、コンテンツ作成、コード生成用の例エージェントが含まれており、オープンなアーキテクチャにより、チームはエージェントの機能拡張や既存のWebアプリケーションとの統合、会話フローの迅速な改善が行えます。

LiteLLMは、統一APIを通じて複数の大規模言語モデル（LLM）の管理を円滑にするように設計された包括的なフレームワークです。OpenAIのAPIに似た標準化されたインタラクションモデルを提供することで、ユーザーはさまざまな形式とプロトコルに煩わされることなく、100以上の異なるLLMを簡単に活用できます。LiteLLMは、異なるサービスプロバイダー間での負荷分散、フォールバック、及び支出追跡の複雑さを処理し、開発者がアプリケーション内でさまざまなLLMサービスを統合・管理しやすくします。