Functionary bietet eine deklarative Möglichkeit, benutzerdefinierte Werkzeuge zu registrieren – JavaScript-Funktionen, die API-Aufrufe, Datenbankabfragen oder Geschäftslogik kapseln. Es umschließt die Interaktion mit LLMs, um Nutzeraufforderungen zu analysieren, zu bestimmen, welche Werkzeuge ausgeführt werden sollen, und die Ausgaben der Werkzeuge zurück in dialogische Antworten zu parsen. Das Framework unterstützt Speicher, Fehlerbehandlung und Verkettung von Aktionen und bietet Hooks für Vor- und Nachverarbeitung. Entwickler können schnell Agents erstellen, die in der Lage sind, dynamische Funktionsorchestrierungen ohne Boilerplate-Code durchzuführen, um die Kontrolle über KI-gesteuerte Workflows zu verbessern.

Der LangGraph-Agent kombiniert LLMs mit einem graphstrukturierten Speicher, um autonome Agenten zu erstellen, die Fakten erinnern, Beziehungen analysieren und externe Funktionen oder Werkzeuge bei Bedarf aufrufen können. Entwickler definieren Speicherschemas als Graph-Knoten und -Kanten, integrieren benutzerdefinierte Tools oder APIs und orchestrieren Agenten-Workflows durch konfigurierbare Planer und Ausführer. Dieser Ansatz verbessert die Kontextbehaltung, ermöglicht wissensgesteuerte Entscheidungen und unterstützt den dynamischen Werkzeugaufruf in vielfältigen Anwendungen.

Der Amazon Bedrock Custom LangChain Agent ist eine Referenzarchitektur und ein Code-Beispiel, das zeigt, wie man KI-Agenten durch die Kombination von AWS Bedrock Foundation-Modellen mit LangChain baut. Sie definieren eine Reihe von Tools (APIs, Datenbanken, RAG-Retriever), konfigurieren Agentenrichtlinien und Speicher, und führen mehrstufige Denkprozesse aus. Es unterstützt Streaming-Ausgaben für geringe Latenz bei Nutzererfahrungen, integriert Callback-Handler zur Überwachung und stellt Sicherheit mittels IAM-Rollen sicher. Dieser Ansatz beschleunigt die Bereitstellung intelligenter Assistenten für Kundensupport, Datenanalyse und Workflow-Automatisierung – alles auf der skalierbaren AWS-Cloud.