Serverless AI Agentは、サーバーレスクラウド関数を活用して自律型AIエージェントの作成と展開を簡素化します。エージェントの動作をシンプルな構成ファイルで定義することで、自然言語入力の処理、APIとの連携、データベースクエリの実行、イベントの発生を可能にします。フレームワークはインフラの煩雑さを抽象化し、需要に応じてエージェント関数を自動スケーリングします。状態の永続化、ロギング、エラー処理を内蔵し、信頼性の高い長期タスク、スケジュールされたジョブ、イベント駆動の自動化をサポートします。カスタムミドルウェアの統合や複数クラウドプロバイダーの選択、プラグインによる監視、認証、データ保存機能の拡張も可能です。迅速なプロトタイピングと堅牢なAI駆動ソリューションの展開を実現します。

Tongui Agentは、会話状態を維持し、外部ツールを活用し、複数のサブエージェントを調整できるモジュール式アーキテクチャを提供します。開発者はLLMバックエンドの設定、カスタムアクションの定義、コンテキストを保存するためのメモリモジュールの追加を行います。このフレームワークには、SDK、CLI、および可観測性のためのミドルウェアフックが含まれており、WebやNode.jsアプリケーションへの統合が容易です。対応LLMにはOpenAI、Azure OpenAI、オープンソースモデルがあります。