Langchainrb est une bibliothèque Ruby open-source conçue pour rationaliser le développement d'applications pilotées par l'IA en proposant un cadre modulaire pour les agents, les chaînes et les outils. Les développeurs peuvent définir des modèles d'invites, assembler des chaînes d'appels LLM, intégrer des composants de mémoire pour préserver le contexte et connecter des outils personnalisés tels que des chargeurs de documents ou des API de recherche. Il prend en charge la génération d'incorporations pour la recherche sémantique, la gestion des erreurs intégrée et une configuration flexible des modèles. Avec des abstractions d'agents, vous pouvez implémenter des assistants conversationnels qui décident quel outil ou chaîne invoquer en fonction de l'entrée de l'utilisateur. L'architecture extensible de Langchainrb permet des personnalisations faciles, permettant une prototypage rapide de chatbots, des pipelines de résumé automatisés, des systèmes QA et des automatisations de flux de travail complexes.

rag-services est une plateforme extensible qui décompose les pipelines RAG en microservices discrets. Elle offre un service de stockage de documents, un service d'indexation vectorielle, un service d'embedding, plusieurs services d'inférence LLM et un orchestrateur pour coordonner les flux de travail. Chaque composant expose des API REST, vous permettant de mélanger et d'associer bases de données et fournisseurs de modèles. Avec la prise en charge de Docker et Docker Compose, vous pouvez déployer localement ou dans des clusters Kubernetes. Le cadre permet des solutions RAG évolutives et tolérantes aux pannes pour chatbots, bases de connaissances et Q&A automatiques.

RAG pour la cybersécurité combine la puissance des grands modèles de langage avec une recherche basée sur des vecteurs pour transformer l'accès et l'analyse des informations de cybersécurité. Les utilisateurs commencent par importer des documents tels que matrices MITRE ATT&CK, entrées CVE et avis de sécurité. Le cadre génère alors des embeddings pour chaque document et les stocke dans une base de données vectorielle. Lorsqu'une requête est soumise, RAG récupère les extraits de document les plus pertinents, les transmet au LLM et retourne des réponses précises et riches en contexte. Cette approche garantit que les réponses sont basées sur des sources fiables, réduit les hallucinations et améliore la précision. Avec des pipelines de données personnalisables et le support de plusieurs fournisseurs d'embeddings et de LLM, les équipes peuvent adapter le système à leurs besoins spécifiques en matière d'intelligence sur les menaces.

Memonto fonctionne comme une bibliothèque intermédiaire pour les agents IA, orchestrant tout le cycle de vie de la mémoire. Lors de chaque tour de conversation, il enregistre les messages utilisateur et IA, distille les détails importants et crée des résumés concis. Ces résumés sont convertis en embeddings et stockés dans des bases de données vectorielles ou des systèmes de fichiers. Lors de la création de nouveaux prompts, Memonto effectue des recherches sémantiques pour récupérer les souvenirs historiques les plus pertinents, permettant aux agents de maintenir le contexte, de se souvenir des préférences de l'utilisateur et de fournir des réponses personnalisées. Il supporte plusieurs backends de stockage (SQLite, FAISS, Redis) et offre des pipelines configurables pour l'intégration de l'embedding, du résumé et de la récupération. Les développeurs peuvent intégrer Memonto de manière transparente dans des frameworks d'agents existants, renforçant ainsi la cohérence et l'engagement à long terme.

Le CrewAI Anthropic Similar Company Finder est un agent CLI qui traite une liste fournie par l'utilisateur, l'envoie à Anthropic Claude pour la génération d'embeddings, puis calcule des scores de similarité cosinus pour classer les entreprises liées. En utilisant des représentations vectorielles, il découvre des relations cachées et des groupes de pairs. Les utilisateurs peuvent spécifier des paramètres tels que le modèle d'embedding, le seuil de similarité, et le nombre de résultats pour adapter la sortie à leurs besoins d'analyse concurrentielle.