GenAI Processors fornece uma biblioteca de processadores reutilizáveis e configuráveis para construir fluxos de trabalho de IA generativa de ponta a ponta. Os desenvolvedores podem ingerir documentos, dividi-los em pedaços semânticos, gerar embeddings, armazenar e consultar vetores, aplicar estratégias de recuperação e construir prompts dinamicamente para chamadas de modelos de linguagem grande. Seu design plug-and-play permite fácil extensão de passos de processamento personalizados, integração transparente com serviços Google Cloud ou lojas de vetores externas e orquestração de pipelines RAG complexos para tarefas como resposta a perguntas, sumarização e recuperação de conhecimento.

Modus é uma estrutura focada no desenvolvedor que simplifica a criação de agentes de IA ao fornecer componentes principais para integração de LLM, armazenamento de memória e orquestração de ferramentas. Apoia bibliotecas de ferramentas baseadas em plugins, permitindo que os agentes realizem tarefas como recuperação de dados, análise e execução de ações. Com módulos de memória embutidos, os agentes podem manter o contexto de conversa e aprender através das interações. Sua arquitetura extensível acelera o desenvolvimento e implementação de IA em diversas aplicações.