Local LLM com Chamada de Função possibilita que desenvolvedores criem agentes de IA que operam totalmente na infraestrutura local, eliminando preocupações de privacidade de dados e dependências de nuvem. A estrutura inclui código de exemplo para integrar LLMs locais como LLaMA, GPT4All, ou outros modelos de peso aberto, além de demonstrar como configurar esquemas de funções que o modelo pode invocar para realizar tarefas como busca de dados, execução de comandos shell ou interação com APIs. Os usuários podem expandir o design definindo endpoints de funções personalizados, ajustando prompts e lidando com respostas de funções. Essa solução leve simplifica o processo de construção de assistentes de IA offline, chatbots e ferramentas de automação para uma ampla variedade de aplicações.

DelphiMistralAI é um kit de ferramentas Python de código aberto que integra o poderoso modelo LLM Mistral-7B com o modelo de raciocínio moral Delphi. Oferece uma interface de linha de comando e uma API RESTful para fornecer julgamentos éticos fundamentados em cenários fornecidos pelo usuário. Os usuários podem implantar o agente localmente, personalizar os critérios de julgamento e inspecionar as justificativas geradas para cada decisão moral. Essa ferramenta visa acelerar a pesquisa em ética de IA, demonstrações educacionais e sistemas de suporte à decisão seguros e explicáveis.

BuildOwn.AI é um guia abrangente projetado para ajudar desenvolvedores a construir aplicações de IA do mundo real usando grandes modelos de linguagem. É ideal tanto para iniciantes quanto para desenvolvedores experientes, com foco nos conceitos essenciais de IA e aplicações práticas. O guia cobre tópicos como a execução de modelos localmente, engenharia de prompts, extração de dados, ajuste fino e técnicas avançadas como Geração Aumentada por Recuperação (RAG) e automação de ferramentas. Se você programa em Python, JavaScript ou outra linguagem, BuildOwn.AI fornece insights valiosos que você pode adaptar à sua plataforma preferida.