Shumai — это poderosa библиотека тензоров, предназначенная для JavaScript и TypeScript, созданная Facebook Research (FAIR). Эта библиотека выделяется высоким уровнем производительности, сетевым подключением и дифференцируемыми возможностями. Созданная с помощью Bun и Flashlight, она позволяет разработчикам бесшовно интегрировать функции глубокого и машинного обучения в веб-приложения. Она поддерживает функции, такие как вычисления на GPU, что делает ее идеальной для сложных научных вычислений и обучения моделей. Shumai нацелена на то, чтобы предоставить надежную среду для разработки продвинутых моделей машинного обучения в экосистеме TypeScript.

GRASP предоставляет структурированный конвейер для построения AI-агентов в средах TypeScript или JavaScript. В основе — определение агентов через регистрацию набора инструментов — функций или внешних API-коннекторов — и задание шаблонов подсказок, которые управляют поведением агента. Встроенные модули памяти позволяют агентам хранить и извлекать контекстную информацию, обеспечивая многопроходные диалоги с сохранением состояния. Компонент планирования управляет выбором и выполнением инструментов на основе пользовательского ввода, в то время как слой выполнения обрабатывает вызовы API и обработку результатов. Система плагинов GRASP поддерживает пользовательские расширения, такие как дополненная за счет поиска генерация (RAG), планирование задач и журналы. Модульный дизайн позволяет командам выбирать только необходимые компоненты, что облегчает интеграцию с существующими системами и сервисами для чат-ботов, виртуальных помощников и автоматизированных рабочих процессов.