Web LLM Assistantは、ブラウザをAI推論プラットフォームに変える軽量なオープンソースフレームワークです。WebGPUとWebAssemblyをバックエンドとして活用し、サーバーなしでクライアントデバイス上で直接LLMを実行し、プライバシーとオフライン動作を確保します。ユーザーはLLaMA、Vicuna、Alpacaなどのモデルをインポートして切り替え、アシスタントとチャットし、ストリーミング応答を見ることができます。モジュール式のReactベースのUIはテーマ、会話履歴、システムプロンプト、およびカスタム動作のためのプラグインのような拡張をサポートします。開発者はインターフェースをカスタマイズし、外部APIを統合し、プロンプトを微調整できます。展開には静的ファイルのホスティングのみが必要で、バックエンドサーバーは不要です。Web LLM Assistantは、あらゆる最新のウェブブラウザで高性能なローカル推論を可能にし、AIを民主化します。

FireAct Agentは、AI駆動の会話エージェントを構築するために設計されたオープンソースのReactフレームワークです。モジュラーアーキテクチャを採用し、カスタムツールの定義、セッションメモリの管理、リッチなメッセージタイプを持つチャットUIのレンダリングを可能にします。TypeScriptの型付けとサーバーサイドレンダリングをサポートし、LLMsと接続したり外部APIや関数を呼び出したりしながら、会話のコンテキストを維持する作業を合理化します。スタイルのカスタマイズやコアコンポーネントの拡張、任意のWeb環境への展開も可能です。