Llama Deployを使えば、LlamaIndexのデータインデックスを本番用のAIエージェントに変換できます。AWS Lambda、Vercel Functions、またはDockerコンテナなどのデプロイターゲットを設定することで、安全な自動スケーリングされたチャットAPIを得られ、カスタムインデックスからの応答を提供します。エンドポイント作成、リクエストルーティング、トークン認証、パフォーマンス監視を標準で処理します。展開、テストから本番までの会話型AIのエンドツーエンドのプロセスを合理化し、低遅延と高可用性を確保します。

AWSサンプルモデルコンテキストプロトコルデモは、大規模言語モデル（LLM）のコンテキスト管理とツール呼び出しの標準化パターンを示すオープンソースリポジトリです。JavaScript/TypeScript版とPython版の2つの完全なデモが含まれ、モデルコンテキストプロトコルを実装し、AWS Lambda関数を呼び出すAIエージェントの構築や会話履歴の維持、レスポンスのストリーミングを可能にします。サンプルコードは、メッセージのフォーマット化、関数引数のシリアル化、エラー処理、カスタマイズ可能なツール統合を示し、生成AIアプリのプロトタイピングを促進します。