Tongui Agentは、会話状態を維持し、外部ツールを活用し、複数のサブエージェントを調整できるモジュール式アーキテクチャを提供します。開発者はLLMバックエンドの設定、カスタムアクションの定義、コンテキストを保存するためのメモリモジュールの追加を行います。このフレームワークには、SDK、CLI、および可観測性のためのミドルウェアフックが含まれており、WebやNode.jsアプリケーションへの統合が容易です。対応LLMにはOpenAI、Azure OpenAI、オープンソースモデルがあります。

TypeAI Coreは、大規模な言語モデルを活用したAI駆動型エージェントを作成するための包括的なフレームワークを提供します。プロンプトテンプレートユーティリティ、ベクターストアによる会話メモリ、外部ツール（API、データベース、コードランナー）のシームレスな統合、ネストまたはコラボレーティブなエージェントのサポートを含みます。開発者は、カスタム関数の定義、セッション状態の管理、ワークフローの調整を直感的なTypeScript APIを通じて行えます。複雑なLLMとのやり取りを抽象化することで、Context-awareなマルチターン会話AIの開発を迅速化し、最小限のボイラープレートで実現します。