llama-cpp-agent ist ein Open-Source-C++-Framework für den vollständigen offline Betrieb von KI-Agenten. Es nutzt die inference-Engine llama.cpp, um schnelle, latenzarme Interaktionen zu bieten, und unterstützt ein modulares Pluginsystem, konfigurierbaren Speicher und Tasks. Entwickler können benutzerdefinierte Werkzeuge integrieren, zwischen verschiedenen lokalen LLM-Modellen wechseln und datenschutzorientierte Konversationsassistenten ohne externe Abhängigkeiten erstellen.

echoOLlama nutzt das Ollama-Ökosystem, um ein minimales Agenten-Framework bereitzustellen: Es liest Benutzereingaben vom Terminal, sendet sie an ein konfiguriertes lokales LLM und streamt die Antworten in Echtzeit zurück. Benutzer können Sequenzen von Interaktionen skripten, Prompts verketten und mit Prompt-Engineering experimentieren, ohne den zugrunde liegenden Model-Code zu ändern. Dies macht echoOLlama ideal zum Testen von Gesprächsmustern, zum Aufbau einfacher kommandogetriebener Werkzeuge und zur Handhabung iterativer Agentenaufgaben bei gleichzeitiger Wahrung der Datensicherheit.

Dieses Repository bietet eine praktische Demonstration der Zwei-Wege-Kommunikation zwischen Agenten, die auf dem JADE-Framework basieren. Es enthält Beispiel-Java-Klassen, die die Agenteninitialisierung, die Erstellung von FIPA-ACL-konformen Nachrichten und die asynchrone Verhaltenssteuerung zeigen. Entwickler können beobachten, wie Agent A eine REQUEST sendet, Agent B die Anfrage bearbeitet und eine INFORM-Nachricht zurückgibt. Der Code zeigt, wie Agenten beim Directory Facilitator registriert werden, zyklische und einmalige Verhaltensweisen verwendet werden, Nachrichtenvorlagen zur Filterung eingesetzt werden und Gesprächssequenzen protokolliert werden. Es ist ein idealer Ausgangspunkt für Prototyping von Multi-Agenten-Austauschen, benutzerdefinierten Protokollen oder der Integration von JADE-Agenten in größere verteilte KI-Systeme.

Agents-Flex ist ein leichtgewichtiges und elegantes Java-Framework für Anwendungen mit großen Sprachmodellen (LLM). Es ermöglicht Entwicklern, lokale Methoden effizient zu definieren, zu analysieren und auszuführen. Das Framework unterstützt lokale Funktionsdefinitionen, Parsing-Funktionen, Rückrufe über LLMs und die Ausführung von Methoden, die Ergebnisse zurückgeben. Mit minimalem Code können Entwickler die Leistungsfähigkeit von LLMs nutzen und komplexe Funktionalitäten in ihre Anwendungen integrieren.

Cyrano ist ein Open-Source-Python-Framework und CLI zum Erstellen von KI-Agenten, die große Sprachmodelle und externe Tools über natürliche Spracheingaben orchestrieren. Nutzer können benutzerdefinierte Werkzeuge (Funktionen) definieren, Speicher- und Token-Limits konfigurieren und Callback-Handler nutzen. Cyrano übernimmt das Parsen von JSON-Antworten von LLMs und führt die angegebenen Tools sequenziell aus. Es legt Wert auf Einfachheit, Modularität und null externe Abhängigkeiten, was Entwicklern ein schnelles Prototyping von Chatbots, automatisierte Workflows und KI-Integrationen in Anwendungen ermöglicht.