GenAI Processors обеспечивает набор переиспользуемых и настраиваемых процессоров для построения конвейеров генеративного AI от начала до конца. Разработчики могут загружать документы, разделять их на семантические фрагменты, создавать встраивания, хранить и запрашивать векторы, применять стратегии поиска и динамически формировать подсказки для вызова крупных языковых моделей. Его дизайн «вставляй-и-играй» облегчает расширение пользовательских этапов обработки, бесшовную интеграцию с сервисами Google Cloud или внешними хранилищами векторов, а также управление сложными RAG-пайплайнами для задач таких, как ответы на вопросы, суммирование и поиск знаний.

Modus — это фреймворк, ориентированный на разработчика, который упрощает создание агентов ИИ за счет предоставления основных компонентов для интеграции LLM, хранения памяти и оркестровки инструментов. Он поддерживает плагины-библиотеки инструментов, позволяющие агентам выполнять задачи такие, как извлечение данных, анализ и выполнение действий. Благодаря встроенным модулям памяти агенты могут сохранять контекст диалога и обучаться в ходе взаимодействий. Расширяемая архитектура ускоряет разработку и внедрение ИИ в различных приложениях.