SmartRAG ist eine modulare Python-Bibliothek für retrieval-augmentierte Generations-Workflows mit großen Sprachmodellen. Es kombiniert Dokumentenaufnahme, Vektorindexierung und hochmoderne LLM-APIs, um präzise, kontextreiche Antworten zu liefern. Nutzer können PDFs, Textdateien oder Webseiten importieren, sie mit beliebten Vektorspeichern wie FAISS oder Chroma indexieren und benutzerdefinierte Prompt-Vorlagen definieren. SmartRAG steuert die Abfrage, die Zusammenstellung der Prompts und die LLM-Inferenz und liefert kohärente Antworten, die auf Quell-Dokumenten basieren. Durch die Abstraktion der Komplexität von RAG-Pipelines beschleunigt es die Entwicklung von Wissensdatenbank-Frage-und-Antwort-Systemen, Chatbots und Forschungsassistenten. Entwickler können Verbindungen erweitern, LLM-Anbieter austauschen und Retrieval-Strategien an spezifische Wissensdomänen anpassen.

Steel ist ein entwicklerzentriertes Framework, das die Erstellung und den Betrieb von LLM-gesteuerten Agenten in Produktionsumgebungen beschleunigt. Es bietet plattformunabhängige Konnektoren für große Modell-APIs, einen In-Memory- und persistenten Speicher, integrierte Tool-Aufrufmuster, automatische Antwort-Caches und detailliertes Tracing für Beobachtbarkeit. Entwickler können komplexe Agenten-Workflows definieren, benutzerdefinierte Tools (z.B. Suche, Datenbankabfragen und externe APIs) integrieren und Streaming-Ausgaben verwalten. Steel abstrahiert die Komplexität der Orchestrierung, sodass Teams sich auf die Geschäftslogik konzentrieren und schnell KI-gesteuerte Anwendungen iterieren können.