Web LLM Assistantは、ブラウザをAI推論プラットフォームに変える軽量なオープンソースフレームワークです。WebGPUとWebAssemblyをバックエンドとして活用し、サーバーなしでクライアントデバイス上で直接LLMを実行し、プライバシーとオフライン動作を確保します。ユーザーはLLaMA、Vicuna、Alpacaなどのモデルをインポートして切り替え、アシスタントとチャットし、ストリーミング応答を見ることができます。モジュール式のReactベースのUIはテーマ、会話履歴、システムプロンプト、およびカスタム動作のためのプラグインのような拡張をサポートします。開発者はインターフェースをカスタマイズし、外部APIを統合し、プロンプトを微調整できます。展開には静的ファイルのホスティングのみが必要で、バックエンドサーバーは不要です。Web LLM Assistantは、あらゆる最新のウェブブラウザで高性能なローカル推論を可能にし、AIを民主化します。

Minimalist Agentは、PythonでAIエージェントを構築するためのベーシックなフレームワークです。LangChainのエージェントクラスとOpenAIのAPIを活用し、マルチステップ推論、ツールの動的選択、関数の実行を行います。リポジトリをクローンし、OpenAI APIキーを設定し、カスタムツールやエンドポイントを定義して、CLIスクリプトを実行してエージェントと対話できます。設計は明快さと拡張性を重視しており、コアエージェントの挙動を学習、変更、拡張しやすくなっています。

InfantAgentは、Pythonで知能エージェントを設計および展開するための軽量な構造を提供します。OpenAIやHugging Faceといった人気のLLMと連携し、永続的なメモリモジュールをサポートし、カスタムツールチェーンを可能にします。標準搭載の会話インターフェース、タスクオーケストレーション、ポリシー駆動の意思決定機能を備えています。プラグインアーキテクチャにより、ドメイン固有のツールやAPIを簡単に拡張でき、研究用のエージェントのプロトタイピングやワークフローの自動化、アプリケーションへのAIアシスタントの埋め込みに最適です。

js-agentは、開発者に対してJavaScriptで自律型AIエージェントを作成するためのミニマルでありながら強力なツールキットを提供します。会話のメモリ、関数呼び出しツール、カスタマイズ可能なプランニング戦略、エラー処理の抽象化を提供します。これにより、プロンプトの設定、状態の管理、外部APIの呼び出し、複雑なエージェントの振る舞いの調整を簡単なモジュール式APIで迅速に行えます。Node.js環境での実行を想定し、OpenAI APIとシームレスに連携します。

実践的には、LlamaSimを使って複数のAIエージェントをLlamaモデルで定義し、インタラクションシナリオを設定し、制御されたシミュレーションを実行できます。Python APIを用いてエージェントの性格、意思決定ロジック、通信チャネルをカスタマイズ可能です。フレームワークはプロンプトの構築、応答の解析、および会話状態の追跡を自動的に処理します。全てのインタラクションを記録し、応答の一貫性、タスク完了率、遅延時間などのビルトイン評価指標を提供します。プラグインアーキテクチャにより、外部データソースの統合やカスタム評価関数の追加が可能です。また、LlamaSimの軽量コアは、ローカル開発、CIパイプライン、クラウド展開に適しており、再現性のある研究やプロトタイプの検証を可能にします。