ThinkThread permet aux développeurs d'ajouter une mémoire persistante aux applications alimentées par ChatGPT. Il encode chaque échange à l'aide de Sentence Transformers et stocke les embeddings dans des magasins de vecteurs populaires. Lors de chaque nouvelle entrée utilisateur, ThinkThread effectue une recherche sémantique pour récupérer les messages passés les plus pertinents et les injecte comme contexte dans le prompt. Ce processus assure la continuité, réduit l'effort d'ingénierie des prompts, et permet aux bots de se souvenir de détails à long terme tels que les préférences utilisateur, l'historique des transactions ou les informations spécifiques au projet.

UniChat sert d'interface unifiée pour interagir avec divers modèles de langage IA et services de chat, permettant aux utilisateurs d'avoir des conversations avec plusieurs fournisseurs à partir d'une seule application de bureau. Il intègre des API en ligne—comme GPT-3, GPT-4 d'OpenAI, Claude d'Anthropic et Google PaLM—ainsi que des modèles locaux comme GPT4All ou LLaMA. Le client prend en charge le stockage de l'historique de conversation, l'exportation de logs de chat, des modèles d'invite personnalisables, le téléchargement de fichiers pour le contexte et des options de thèmes. Un système de plugins permet aux développeurs et à la communauté d'ajouter de nouvelles capacités, connecteurs ou améliorations UI. En gérant les clés API de manière centrale et en offrant un mode hors ligne pour les modèles locaux, UniChat offre aux utilisateurs un contrôle total sur leurs interactions IA, leur vie privée et leurs coûts.

Ollama Bot est un agent AI basé sur Node.js conçu pour fonctionner sur les serveurs Discord, utilisant la CLI Ollama et des modèles LLM locaux pour générer des réponses conversationnelles. Il établit un contexte de chat persistant, permettant aux utilisateurs de maintenir la continuité du sujet sur plusieurs messages. Les administrateurs peuvent définir des invites personnalisées, régler les paramètres du modèle et restreindre les commandes à des rôles spécifiques. Le bot supporte plusieurs modèles LLM, gère automatiquement les files d’attente de messages pour un débit élevé et enregistre les interactions à des fins d'audit. L'installation consiste à cloner le dépôt, installer les dépendances via npm et configurer des variables d'environnement telles que le jeton Discord et les paramètres d'Ollama. Une fois déployé, le bot écoute les commandes slash, transfère les requêtes au modèle Ollama et publie directement les réponses générées dans les canaux Discord.