Web LLM Assistant es un marco ligero de código abierto que transforma tu navegador en una plataforma de inferencia de IA. Utiliza backends WebGPU y WebAssembly para ejecutar directamente LLM en los dispositivos del cliente sin necesidad de servidores, asegurando privacidad y capacidad offline. Los usuarios pueden importar y cambiar entre modelos como LLaMA, Vicuna y Alpaca, conversar con el asistente y ver respuestas en streaming. La interfaz modular basada en React soporta temas, historial de conversaciones, prompts del sistema y extensiones tipo plugin para comportamientos personalizados. Los desarrolladores pueden personalizar la interfaz, integrar APIs externas y ajustar los prompts. El despliegue solo requiere hospedar archivos estáticos; no se necesitan servidores backend. Web LLM Assistant democratiza la IA permitiendo inferencias locales de alto rendimiento en cualquier navegador moderno.

FireAct Agent es un marco React de código abierto diseñado para crear agentes conversacionales impulsados por IA. Ofrece una arquitectura modular que permite definir herramientas personalizadas, gestionar la memoria de sesiones y renderizar interfaces de chat con tipos de mensajes enriquecidos. Con tipados en TypeScript y soporte para renderizado del lado del servidor, FireAct Agent simplifica el proceso de conectar modelos de lenguaje grande (LLMs), invocar API o funciones externas y mantener el contexto conversacional en las interacciones. Puedes personalizar estilos, extender componentes principales y desplegar en cualquier entorno web.