PHP AI Tool Bridgeは、さまざまなAIや大規模言語モデルAPIとのインタラクションの複雑さを抽象化する柔軟なPHPフレームワークです。標準のAiToolインターフェースを定義することで、OpenAI、Azure OpenAI、Hugging Faceなどの提供者間の切り替えをビジネスロジックを変更せずに行えます。ライブラリは、プロンプトテンプレート、パラメータ設定、ストリーミング、関数呼び出し、リクエストキャッシング、ロギングに対応しており、複数のAIツールを連鎖させるパターンも備えています。これにより、会話エージェントの構築や状態管理のためのメモリストアもサポートしています。PHP AI Tool Bridgeは、ボイラープレートを削減し、APIの一貫した使用を保証することで、AI搭載の機能開発を加速させます。

Web LLM Assistantは、ブラウザをAI推論プラットフォームに変える軽量なオープンソースフレームワークです。WebGPUとWebAssemblyをバックエンドとして活用し、サーバーなしでクライアントデバイス上で直接LLMを実行し、プライバシーとオフライン動作を確保します。ユーザーはLLaMA、Vicuna、Alpacaなどのモデルをインポートして切り替え、アシスタントとチャットし、ストリーミング応答を見ることができます。モジュール式のReactベースのUIはテーマ、会話履歴、システムプロンプト、およびカスタム動作のためのプラグインのような拡張をサポートします。開発者はインターフェースをカスタマイズし、外部APIを統合し、プロンプトを微調整できます。展開には静的ファイルのホスティングのみが必要で、バックエンドサーバーは不要です。Web LLM Assistantは、あらゆる最新のウェブブラウザで高性能なローカル推論を可能にし、AIを民主化します。