GenAI Processorsは、再利用可能で構成可能なプロセッサライブラリを提供し、エンドツーエンドの生成AIワークフローを構築します。文書の取り込み、意味的なチャンクへの分割、埋め込みの生成、ベクトルの保存とクエリ、検索戦略の適用、大規模言語モデル呼び出しのための動的プロンプトの構築が可能です。そのプラグアンドプレイ設計により、カスタム処理ステップの拡張やGoogle Cloudサービスまたは外部ベクトルストアとのシームレスな統合、質問応答、要約、知識検索などの複雑なRAGパイプラインのオーケストレーションが容易になります。

Modusは、LLM統合、メモリストレージ、ツール調整のためのコアコンポーネントを提供し、AIエージェントの作成を簡素化する開発者向けのフレームワークです。プラグインベースのツールライブラリをサポートし、エージェントがデータ取得、分析、アクション実行などを行えるようにします。ビルトインのメモリモジュールにより、エージェントは会話の文脈を保持し、インタラクションを通じて学習します。その拡張可能なアーキテクチャは、さまざまなアプリケーションでのAIの開発と展開を高速化します。