Local LLM avec appel de fonction permet aux développeurs de créer des agents IA qui fonctionnent entièrement sur le matériel local, éliminant ainsi les préoccupations de confidentialité des données et les dépendances au cloud. Le cadre inclut un code d'exemple pour intégrer des LLM locaux tels que LLaMA, GPT4All ou d'autres modèles à poids ouverts, et démontre comment configurer des schémas de fonctions que le modèle peut invoquer pour effectuer des tâches telles que la récupération de données, l'exécution de commandes shell ou l'interaction avec des API. Les utilisateurs peuvent étendre la conception en définissant des points de terminaison de fonction personnalisés, en personnalisant des invites et en gérant les réponses de fonction. Cette solution légère simplifie le processus de création d'assistants IA hors ligne, de chatbots et d'outils d'automatisation pour une large gamme d'applications.

Le SDK A2A est une boîte à outils pour les développeurs afin de construire, chaîner et gérer des agents IA en Python. Il fournit des API pour définir le comportement des agents via des invites ou du code, connecter les agents dans des pipelines ou workflows, et permettre la transmission de messages asynchrones. Les intégrations avec OpenAI, Llama, Redis et les services REST permettent aux agents de récupérer des données, d'appeler des fonctions et de stocker des états. Une interface utilisateur intégrée permet de surveiller l'activité des agents, tandis que la conception modulaire garantit la possibilité d'étendre ou de remplacer des composants pour répondre à des cas d'utilisation personnalisés.