Trinity-RFT（検索ファインチューニング）は、検索とファインチューニングのワークフローを組み合わせて、モデルの精度と効率を向上させる統一されたオープンソースフレームワークです。コーパスを準備し、検索インデックスを構築し、取得したコンテキストを直接トレーニングループに組み込むことができます。テキスト、画像、動画のマルチモーダル検索をサポートし、一般的なベクトルストアと統合し、評価指標やデプロイスクリプトも提供します。

AI_RAGは、ドキュメントのインデックス作成、ベクター検索、埋め込み生成、LLM駆動の応答作成を組み合わせたモジュール式の検索強化生成ソリューションを提供します。ユーザーはテキストドキュメントのコーパスを準備し、FAISSやPineconeなどのベクトルストアに接続し、埋め込みとLLMのエンドポイントを設定し、インデックス作成プロセスを実行します。クエリが到着すると、AI_RAGは最も適切なパッセージを検索し、それらをプロンプトとともに選択した言語モデルに入力し、コンテキストに基づいた応答を返します。その拡張性の高い設計により、カスタムコネクタ、多モデルのサポート、検索と生成パラメータの詳細な制御が可能で、知識ベースや高度な会話エージェントに最適です。