Google Gemma é uma coleção de modelos de IA leves e de ponta desenvolvidos para atender a um amplo espectro de aplicações. Esses modelos abertos são projetados com a mais recente tecnologia para garantir desempenho e eficiência ideais. Projetados para desenvolvedores, pesquisadores e empresas, os modelos Gemma podem ser facilmente integrados em aplicações para aprimorar a funcionalidade em áreas como geração de texto, resumo e análise de sentimentos. Com opções de implantação flexíveis disponíveis em plataformas como Vertex AI e GKE, o Gemma garante uma experiência sem costura para usuários que buscam soluções robustas de IA.

Local LLM com Chamada de Função possibilita que desenvolvedores criem agentes de IA que operam totalmente na infraestrutura local, eliminando preocupações de privacidade de dados e dependências de nuvem. A estrutura inclui código de exemplo para integrar LLMs locais como LLaMA, GPT4All, ou outros modelos de peso aberto, além de demonstrar como configurar esquemas de funções que o modelo pode invocar para realizar tarefas como busca de dados, execução de comandos shell ou interação com APIs. Os usuários podem expandir o design definindo endpoints de funções personalizados, ajustando prompts e lidando com respostas de funções. Essa solução leve simplifica o processo de construção de assistentes de IA offline, chatbots e ferramentas de automação para uma ampla variedade de aplicações.

O TinyAuton fornece uma arquitetura mínima e extensível para construir agentes autônomos que planejam, executam e refinam tarefas usando os modelos GPT da OpenAI. Oferece módulos integrados para definir objetivos, gerenciar contexto de conversa, invocar ferramentas personalizadas e registrar decisões do agente. Por meio de loops de auto-reflexão iterativa, o agente pode analisar resultados, ajustar planos e tentar etapas que falharam. Os desenvolvedores podem integrar APIs externas ou scripts locais como ferramentas, configurar memória ou estado, e personalizar o pipeline de raciocínio do agente. TinyAuton é otimizado para prototipagem rápida de fluxos de trabalho orientados por IA, desde extração de dados até geração de código, tudo com algumas linhas de Python.