EnergeticAIは、オープンソースAIモデルの統合を簡素化するために設計されたNode.jsライブラリです。サーバーレス機能向けに最適化されたTensorFlow.jsを活用し、迅速なコールドスタートと効率的なパフォーマンスを確保します。埋め込みや分類器など、一般的なAIタスクのための事前トレーニング済みモデルを用意し、展開プロセスを加速させ、開発者によるAI統合をシームレスにします。サーバーレス最適化に焦点を当てることで、最大67倍の高速な実行を保証し、現代のマイクロサービスアーキテクチャに最適です。

rag-servicesは、RAGパイプラインを個別のマイクロサービスに分解する拡張可能なプラットフォームです。ドキュメントストアサービス、ベクトルインデックスサービス、エンベディング生成サービス、複数のLLM推論サービスと、ワークフローを調整するオーケストレータを提供します。各コンポーネントはREST APIを公開し、データベースやモデルプロバイダーを組み合わせることが可能です。DockerとDocker Composeをサポートし、ローカルまたはKubernetesクラスターに展開できます。このフレームワークは、チャットボット、ナレッジベース、自動ドキュメントQ&Aのためのスケーラブルでフォールトトレラントなソリューションを提供します。