llama-cpp-agentは完全にオフラインで動作するAIエージェントのためのオープンソースのC++フレームワークです。 llama.cpp推論エンジンを利用して高速低遅延のインタラクションを提供し、モジュール化されたプラグインシステム、設定可能なメモリ、タスク実行をサポートします。開発者はカスタムツールの統合、ローカルの異なるLLMモデル間の切り替え、およびプライバシー重視の対話型アシスタントの構築が可能であり、外部依存性はありません。

Notteは、大規模言語モデルを駆動するAIエージェントのオーケストレーションを目的とした、開発者中心のPythonフレームワークです。会話のコンテキストを保存・取得するビルトインのメモリモジュール、外部APIやカスタム関数との柔軟なツール統合、タスクのシーケンスを管理するプランニングエンジンを提供します。これにより、会話アシスタントやデータ分析ボット、または自動化されたワークフローのプロトタイピングを迅速に行うことができ、オープンソースの拡張性とクロスプラットフォームのサポートの恩恵を受けられます。