Im Kern bietet Memary ein modulares Speichermanagementsystem, das speziell für große Sprachmodell-Agenten entwickelt wurde. Durch die Abstraktion von Speicherinteraktionen über eine gemeinsame API unterstützt es mehrere Backends, darunter In-Memory-Dictionaries, Redis für verteiltes Caching und Vektor-Speicher wie Pinecone oder FAISS für semantische Suche. Benutzer definieren schemasbasierte Speicher (episodisch, semantisch oder Langzeit) und nutzen Einbettungsmodelle, um Vektor-Speicher automatisch zu füllen. Abfragefunktionen ermöglichen kontextuell relevante Speicherabrufe während Gesprächen, was die Antworten der Agenten mit vergangenen Interaktionen oder fachspezifischen Daten verbessert. Für Erweiterbarkeit konzipiert, kann Memary benutzerdefinierte Speicher-Backends und Einbettungsfunktionen integrieren, was es ideal macht für die Entwicklung robuster, zustandsbehafteter KI-Anwendungen wie virtuelle Assistenten, Kundenservice-Chatbots und Forschungswerkzeuge, die über die Zeit persistentes Wissen erfordern.

Der LangGraph-Agent kombiniert LLMs mit einem graphstrukturierten Speicher, um autonome Agenten zu erstellen, die Fakten erinnern, Beziehungen analysieren und externe Funktionen oder Werkzeuge bei Bedarf aufrufen können. Entwickler definieren Speicherschemas als Graph-Knoten und -Kanten, integrieren benutzerdefinierte Tools oder APIs und orchestrieren Agenten-Workflows durch konfigurierbare Planer und Ausführer. Dieser Ansatz verbessert die Kontextbehaltung, ermöglicht wissensgesteuerte Entscheidungen und unterstützt den dynamischen Werkzeugaufruf in vielfältigen Anwendungen.