bedrock-agentは、多機能なAIエージェントフレームワークで、AWS Bedrockの大規模言語モデル群と連携し、複雑なタスク駆動のワークフローをオーケストレーションします。カスタムツール登録のプラグインアーキテクチャ、コンテキストの永続化を可能にするメモリモジュール、より良い推論のための思考チェーン機構を備えています。シンプルなPython APIとコマンドラインインターフェースを通じて、外部サービス呼び出し、ドキュメント処理、コード生成、チャットを通じたユーザーとの対話が可能なエージェントの定義をサポートします。エージェントは、ユーザープロンプトに基づいて適切なツールを自動的に選択し、セッション間で会話状態を維持できます。このフレームワークはオープンソースで、拡張可能かつ迅速なプロトタイピングとAI支援アシスタントの展開に最適化されています。

StableAgentsは、大規模言語モデルを使用して計画、実行、および複雑なワークフローに適応できる自律型AIエージェントを作成するための包括的なツールキットを提供します。モジュール式コンポーネントには、プランナー、メモリストア、ツール、評価者が含まれます。エージェントは外部APIにアクセスし、検索強化されたタスクを実行し、会話やインタラクションのコンテキストを保存できます。フレームワークにはCLIとPython SDKが付属し、ローカル開発やクラウド展開を可能にします。プラグインアーキテクチャにより、StableAgentsは一般的なLLMプロバイダーやベクトルデータベースと連携し、パフォーマンス追跡用の監視ダッシュボードとロギングを備えています。

PySpurは、操作しやすいノードベースのインターフェースを通じて、AIエージェントの構築、テスト、展開のための統合環境を提供します。開発者は、言語モデル呼び出し、データ取得、意思決定の分岐、APIとの連携などのアクションのチェーンを、モジュール化されたブロックをドラッグ＆ドロップして組み立てます。ライブシミュレーションモードでは、ロジックの検証、途中状態の確認、ワークフローのデバッグが可能です。PySpurは、エージェントフローのバージョン管理、パフォーマンスプロファイリング、ワンクリックでのクラウドやオンプレミスへの展開もサポートします。プラグイン可能なコネクタや主要LLMとベクターデータベースのサポートにより、チームは複雑な推論エージェント、自動化アシスタント、データパイプラインを迅速に試作できます。オープンソースかつ拡張性があり、ボイラープレートやインフラの負担を最小化し、より速い反復と堅牢なエージェントソリューションを実現します。

rag-servicesは、RAGパイプラインを個別のマイクロサービスに分解する拡張可能なプラットフォームです。ドキュメントストアサービス、ベクトルインデックスサービス、エンベディング生成サービス、複数のLLM推論サービスと、ワークフローを調整するオーケストレータを提供します。各コンポーネントはREST APIを公開し、データベースやモデルプロバイダーを組み合わせることが可能です。DockerとDocker Composeをサポートし、ローカルまたはKubernetesクラスターに展開できます。このフレームワークは、チャットボット、ナレッジベース、自動ドキュメントQ&Aのためのスケーラブルでフォールトトレラントなソリューションを提供します。