Shumai ist eine leistungsstarke Tensorsbibliothek, die für JavaScript und TypeScript entwickelt wurde, und wurde von Facebook Forschung (FAIR) erstellt. Die Bibliothek zeichnet sich durch hohe Leistung, Netzwerkverbindung und differenzierbare Funktionen aus. Sie wurde mit Bun und Flashlight erstellt und ermöglicht Entwicklern, Deep Learning- und Machine Learning-Funktionen nahtlos in Webanwendungen zu integrieren. Sie unterstützt Funktionen wie GPU-Berechnungen, was sie ideal für komplexe wissenschaftliche Berechnungen und Modelltraining macht. Shumai zielt darauf ab, eine robuste Umgebung für die Entwicklung fortschrittlicher Machine Learning-Modelle in einem TypeScript-Ökosystem bereitzustellen.

GRASP bietet eine strukturierte Pipeline zum Aufbau von KI-Agenten in TypeScript- oder JavaScript-Umgebungen. Im Kern definieren Entwickler Agenten, indem sie eine Reihe von Werkzeugen—Funktionen oder externe API-Connectoren—registrieren und Prompt-Vorlagen festlegen, die das Verhalten des Agenten steuern. Eingebaute Speicher-Module erlauben es Agenten, Kontextinformationen zu speichern und abzurufen, was Mehrrunden-Konversationen mit persistentem Zustand ermöglicht. Die Planungs-Komponente steuert die Auswahl und Ausführung der Werkzeuge basierend auf Nutzerinput, während die Ausführungsschicht API-Aufrufe und Ergebnishandhabung übernimmt. Das Plugin-System von GRASP unterstützt benutzerdefinierte Erweiterungen wie Retrieval-augmented Generation (RAG), Aufgabenerstellung und Logging. Das modulare Design ermöglicht es Teams, nur die benötigten Komponenten zu wählen und so die Integration mit bestehenden Systemen und Diensten für Chatbots, virtuelle Assistenten und automatisierte Workflows zu erleichtern.