Der Anna Mobile LLM Agent ist ein dialogorientiertes KI-Framework, das für eine nahtlose Integration in die mobile App von Anna Money entwickelt wurde. Es verwendet große Sprachmodelle, um natürliche Spracheingaben der Nutzer zu interpretieren, Echtzeit-Kontodaten und Transaktionen über sichere APIs abzurufen und Aufgaben wie Ausgabenklassifizierung, Transaktionszusammenfassungen und Budgetberatung durchzuführen. Entwickler können benutzerdefinierte Werkzeuge, Trigger und Kontextspeicher konfigurieren, um den Agenten an spezielle Finanz-Workflows anzupassen. Mit integrierter Unterstützung für OpenAI, Azure OpenAI und lokale Transformator-Modelle sowie einer React Native-Oberfläche sorgt der Agent für reaktionsschnelle, sichere und personalisierte Finanzhilfen auf iOS- und Android-Geräten.

APIPark dient als umfassendes LLM-Gateway, das eine effiziente und sichere Verwaltung von großen Sprachmodellen bietet. Es unterstützt über 200 LLMs, ermöglicht eine feingranulare visuelle Verwaltung und integriert sich nahtlos in Produktionsumgebungen. Die Plattform bietet Lastenausgleich, Echtzeit-Verkehrsüberwachung und intelligentes semantisches Caching. Darüber hinaus erleichtert APIPark das Management von Aufforderungen und die API-Transformation und bietet robuste Sicherheitsfunktionen wie Datenmaskierung zum Schutz sensibler Informationen. Seine Open-Source-Natur und das entwicklerzentrierte Design machen es zu einem vielseitigen Werkzeug für Unternehmen, die den Einsatz und die Verwaltung ihrer KI-Modelle optimieren möchten.