echoOLlama exploite l'écosystème Ollama pour fournir un cadre d'agent minimal : il lit l'entrée utilisateur du terminal, l'envoie à un LLM local configuré, et diffuse les réponses en temps réel. Les utilisateurs peuvent script des séquences d'interactions, enchaîner des prompts, et expérimenter l'ingénierie des prompts sans modifier le code modèle sous-jacent. Cela rend echoOLlama idéal pour tester des schémas de conversation, construire des outils simples en ligne de commande, et gérer des tâches itératives tout en préservant la confidentialité des données.

Whiz est conçu pour fournir une base robuste pour le développement d'agents intelligents capables d'effectuer des workflows conversationnels et orientés tâches complexes. Avec Whiz, les développeurs définissent des "outils" — des fonctions Python ou des API externes — que l'agent peut invoquer lors du traitement des requêtes utilisateur. Un module de mémoire intégré capture et récupère le contexte de conversation, permettant des interactions multi-tours cohérentes. Un moteur de planification dynamique décompose les objectifs en étapes réalisables, tandis qu'une interface flexible permet d'injecter des politiques personnalisées, des registres d'outils et des backends de mémoire. Whiz supporte la recherche sémantique basée sur des embeddings pour extraire des documents pertinents, la journalisation pour la traçabilité et l'exécution asynchrone pour la montée en charge. Entièrement open-source, Whiz peut être déployé partout où Python s'exécute, permettant une création rapide de prototypes de bots d'assistance client, d'assistants d'analyse de données ou d'agents spécialisés, avec peu de boilerplate.