Das Controllable RAG Agent-Framework bietet einen modularen Ansatz zum Aufbau von Retrieval-Augmented Generation-Systemen. Es ermöglicht die Konfiguration und Verkettung von Abrufkomponenten, Speichermodulen und Generierungsstrategien. Entwickler können verschiedene LLMs, Vektordatenbanken und Richtliniencontroller anpassen, um zu steuern, wie Dokumente vor der Generierung abgerufen und verarbeitet werden. Basierend auf Python umfasst es Dienstprogramme für Indexierung, Abfragen, Verfolgung der Gesprächshistorie und kontrollierte Ablaufsteuerung, was es ideal für Chatbots, Wissensassistenten und Forschungstools macht.

SciPhi ist eine Open-Source-Plattform, die darauf ausgelegt ist, den Aufbau, die Bereitstellung und die Skalierung von Retrieval-Enhanced Generation (RAG) Systemen zu vereinfachen. Sie bietet Entwicklern eine End-to-End-Lösung, die es ihnen ermöglicht, sich auf KI-Innovation zu konzentrieren, ohne sich um die zugrunde liegende Infrastruktur kümmern zu müssen. Mit Werkzeugen zur automatisierten Wissensgraph-Extraktion, Dokumenten- und Benutzermanagement sowie robuster Beobachtbarkeit sorgt SciPhi für eine effiziente und optimierte Bereitstellung von RAG-Systemen.