OSU NLP Middlewareは、AIエージェントシステムの開発を簡素化するためにPythonで構築された軽量フレームワークです。自然言語モデルとプラグインとして定義された外部ツール機能間のやり取りを調整するコアエージェントループを提供します。このフレームワークは、OpenAIやHugging Faceなどの主要なLLMプロバイダーをサポートし、データベースクエリ、ドキュメント取得、ウェブ検索、数学的計算、RESTful API呼び出しなどのタスク用にカスタムツールを登録できます。ミドルウェアは会話履歴を管理し、レート制限に対応し、すべてのやり取りをログに記録します。信頼性向上のためのキャッシングとリトライポリシーも提供し、最小限のコードでインテリジェントアシスタントやチャットボット、自律的なワークフローを簡単に構築できます。

Pipe Pilotは、開発者がPythonでAI駆動のパイプラインを構築、可視化、管理できるオープンソースツールです。宣言的APIまたはYAML設定を使用して、テキスト生成、分類、データエンリッチメント、REST API呼び出しなどのタスクを連鎖させます。条件分岐、ループ、リトライ、エラーハンドラを実装して堅牢なワークフローを作成可能です。実行コンテキストの維持、各ステップのログ記録、並列または逐次実行モードをサポートします。主要なLLMプロバイダー、カスタム関数、外部サービスと連携し、レポート、チャットボット、インテリジェントなデータ処理、複雑なマルチステージAIアプリケーションの自動化に最適です。