llama-cpp-agent est un framework open-source en C++ pour faire fonctionner entièrement hors ligne des agents IA. Il exploite le moteur d'inférence llama.cpp pour fournir des interactions rapides et à faible latence, et supporte un système modulaire de plugins, une mémoire configurable et l'exécution de tâches. Les développeurs peuvent intégrer des outils personnalisés, passer d'un modèle LLM local à un autre et créer des assistants conversationnels axés sur la confidentialité sans dépendances externes.
Fonctionnalités principales de llama-cpp-agent
Système de plugins modulaire pour des outils personnalisés
Notte est un cadre Python open-source pour construire des agents IA personnalisables avec mémoire, intégration d'outils et raisonnement à plusieurs étapes.
Notte est un cadre Python axé sur les développeurs, conçu pour orchestrer des agents IA alimentés par de grands modèles linguistiques. Il fournit des modules de mémoire intégrés pour stocker et récupérer le contexte de conversation, une intégration flexible d'outils pour les API externes ou les fonctions personnalisées, et un moteur de planification qui séquence les tâches. Avec Notte, vous pouvez rapidement prototyper des assistants conversationnels, des bots d'analyse de données ou des flux de travail automatisés, tout en profitant de l'extensibilité open-source et du support multiplateforme.