L'Anna Mobile LLM Agent est un cadre d'IA conversationnelle conçu pour une intégration transparente dans l'application mobile Anna Money. Il exploite de grands modèles linguistiques pour interpréter les entrées en langage naturel de l'utilisateur, récupérer en temps réel des données de compte et de transaction via des API sécurisées, et effectuer des tâches telles que la catégorisation des dépenses, la synthèse des transactions et les conseils budgétaires. Les développeurs peuvent configurer des outils, déclencheurs et mémoires de contexte personnalisés pour adapter l'agent aux flux de travail financiers spécifiques. Avec une prise en charge intégrée d'OpenAI, Azure OpenAI et des modèles transformeurs locaux, ainsi qu'une interface React Native, l'agent garantit une assistance financière réactive, sécurisée et personnalisée sur les appareils iOS et Android.

APIPark sert de passerelle LLM complète offrant une gestion efficace et sécurisée des grands modèles de langage. Il supporte plus de 200 LLM, permettant une gestion visuelle fine, et s'intègre sans effort dans des environnements de production. La plateforme fournit un équilibrage de charge, une surveillance en temps réel du trafic et un cache sémantique intelligent. De plus, APIPark facilite la gestion des invites et la transformation des API, offrant des fonctionnalités de sécurité robustes telles que le masquage des données pour protéger les informations sensibles. Sa nature open-source et son design centré sur le développeur en font un outil polyvalent pour les entreprises souhaitant rationaliser le déploiement et la gestion de leurs modèles d'IA.