O Web LLM Assistant é uma estrutura leve de código aberto que transforma seu navegador em uma plataforma de inferência de IA. Usa backends WebGPU e WebAssembly para executar LLMs diretamente nos dispositivos cliente sem servidores, garantindo privacidade e capacidade off-line. Usuários podem importar e alternar entre modelos como LLaMA, Vicuna e Alpaca, conversar com o assistente e ver respostas em streaming. A interface modular baseada em React suporta temas, histórico de conversas, prompts do sistema e extensões similares a plugins para comportamentos personalizados. Desenvolvedores podem personalizar a interface, integrar APIs externas e ajustar prompts. A implantação só exige hospedar arquivos estáticos; nenhum servidor backend é necessário. O Web LLM Assistant democratiza a IA ao permitir inferência local de alto desempenho em qualquer navegador moderno.

FireAct Agent é uma estrutura de código aberto baseada em React, projetada para criar agentes de conversa alimentados por IA. Oferece uma arquitetura modular que permite definir ferramentas personalizadas, gerenciar a memória da sessão e renderizar interfaces de chat com tipos de mensagens ricos. Com suporte a TypeScript e renderização do lado do servidor, o FireAct Agent agiliza o processo de conectar LLMs, invocar APIs externas ou funções, e manter o contexto da conversa durante as interações. Você pode personalizar estilos, estender componentes principais e implantar em qualquer ambiente web.