Local LLM con llamadas a funciones permite a los desarrolladores crear agentes de IA que funcionan completamente en hardware local, eliminando preocupaciones de privacidad de datos y dependencias en la nube. El marco incluye código de ejemplo para integrar LLMs locales como LLaMA, GPT4All u otros modelos de peso abierto, y demuestra cómo configurar esquemas de funciones que el modelo puede invocar para realizar tareas como obtener datos, ejecutar comandos shell o interactuar con API. Los usuarios pueden ampliar el diseño definiendo endpoints de funciones personalizadas, ajustando indicaciones y gestionando respuestas de funciones. Esta solución ligera simplifica la creación de asistentes de IA offline, chatbots y herramientas de automatización para una amplia gama de aplicaciones.

DelphiMistralAI es un conjunto de herramientas Python de código abierto que integra el potente modelo LLM Mistral-7B con el modelo de razonamiento moral Delphi. Ofrece una interfaz de línea de comandos y una API RESTful para proporcionar juicios éticos fundamentados sobre escenarios suministrados por el usuario. Los usuarios pueden desplegar el agente localmente, personalizar los criterios de juicio, e inspeccionar las justificaciones generadas para cada decisión moral. Esta herramienta busca acelerar la investigación en ética de IA, demostraciones educativas y sistemas de soporte de decisiones seguros y explicables.

BuildOwn.AI es una guía completa diseñada para ayudar a los desarrolladores a construir aplicaciones de IA del mundo real utilizando grandes modelos de lenguaje. Es ideal tanto para principiantes como para desarrolladores experimentados, centrándose en conceptos esenciales de IA y aplicaciones prácticas. La guía cubre temas como la ejecución de modelos localmente, ingeniería de prompts, extracción de datos, ajuste fino y técnicas avanzadas como Generación Aumentada por Recuperación (RAG) y automatización de herramientas. Ya sea que programe en Python, JavaScript o en otro lenguaje, BuildOwn.AI proporciona información valiosa que puede adaptar a su plataforma preferida.