AI_RAGは、ドキュメントのインデックス作成、ベクター検索、埋め込み生成、LLM駆動の応答作成を組み合わせたモジュール式の検索強化生成ソリューションを提供します。ユーザーはテキストドキュメントのコーパスを準備し、FAISSやPineconeなどのベクトルストアに接続し、埋め込みとLLMのエンドポイントを設定し、インデックス作成プロセスを実行します。クエリが到着すると、AI_RAGは最も適切なパッセージを検索し、それらをプロンプトとともに選択した言語モデルに入力し、コンテキストに基づいた応答を返します。その拡張性の高い設計により、カスタムコネクタ、多モデルのサポート、検索と生成パラメータの詳細な制御が可能で、知識ベースや高度な会話エージェントに最適です。

FlyingAgentは、さまざまな分野で推論、計画、行動を自律的に行うことができるエージェントをシミュレートするために大規模言語モデルを活用したモジュール式アーキテクチャを提供します。エージェントは内部メモリを維持し、Web閲覧、データ分析、サードパーティAPIの呼び出しなどのタスクに外部ツールキットを統合できます。フレームワークは複数のエージェントの協調、プラグインベースの拡張、多様な意思決定ポリシーをサポートします。オープンな設計により、メモリのバックエンド、ツールの統合、タスクマネージャーをカスタマイズでき、カスタマーサポート自動化、研究支援、コンテンツ生成パイプライン、デジタルワークフォース管理などの応用が可能です。

Tongui Agentは、会話状態を維持し、外部ツールを活用し、複数のサブエージェントを調整できるモジュール式アーキテクチャを提供します。開発者はLLMバックエンドの設定、カスタムアクションの定義、コンテキストを保存するためのメモリモジュールの追加を行います。このフレームワークには、SDK、CLI、および可観測性のためのミドルウェアフックが含まれており、WebやNode.jsアプリケーションへの統合が容易です。対応LLMにはOpenAI、Azure OpenAI、オープンソースモデルがあります。