ThinkThread ermöglicht es Entwicklern, dauerhafte Speicher für ChatGPT-basierte Anwendungen hinzuzufügen. Es kodiert jeden Austausch mit Sentence Transformers und speichert die Embeddings in beliebten Vektorspeichern. Bei jeder neuen Nutzer-Eingabe führt ThinkThread eine semantische Suche durch, um die relevantesten vorherigen Nachrichten zu finden und sie als Kontext in die Eingabe einzufügen. Dadurch wird Kontinuität gewährleistet, Prompt-Engineering vereinfacht und Bots können langfristige Details wie Nutzerpräferenzen, Transaktionshistorie oder projektspezifische Informationen speichern.

UniChat dient als einheitliche Schnittstelle für die Interaktion mit verschiedenen KI-Sprachmodellen und Chat-Diensten, sodass Nutzer Gespräche mit mehreren Anbietern aus einer Desktop-Anwendung führen können. Es integriert Online-APIs—wie OpenAI GPT-3, GPT-4, Anthropic Claude und Google PaLM—zusammen mit lokalen Modellen wie GPT4All oder LLaMA. Der Client unterstützt Funktionen wie Speicherung der Gesprächshistorie, exportierbare Chat-Protokolle, anpassbare Eingabeaufflagentemplates, Datei-Upload für Kontext und Theme-Optionen. Ein Plugin-System erlaubt Entwicklern und der Community, neue Funktionen, Konnektoren oder UI-Verbesserungen hinzuzufügen. Durch zentrale Verwaltung der API-Schlüssel und Offline-Modus für lokale Modelle gibt UniChat den Nutzern vollständige Kontrolle über ihre KI-Interaktionen, Privatsphäre und Kosten.

Ollama Bot ist ein auf Node.js basierter KI-Agent, der auf Discord-Servern läuft und die Ollama CLI sowie lokale LLM-Modelle nutzt, um Konversationsantworten zu generieren. Es schafft einen persistenten Chat-Kontext, sodass Nutzer den Thema über mehrere Nachrichten hinweg beibehalten können. Administratoren können benutzerdefinierte Eingabeaufforderungen festlegen, Modelleinstellungen vornehmen und Befehle auf bestimmte Rollen beschränken. Der Bot unterstützt mehrere LLM-Modelle, verwaltet automatisch Warteschlangen für hohe Durchsatzraten und protokolliert Interaktionen für Prüfzwecke. Die Installation umfasst das Klonen des Repositories, das Installieren der Abhängigkeiten via npm und die Konfiguration von Umgebungsvariablen wie Discord-Token und Ollama-Einstellungen. Nach der Bereitstellung hört der Bot auf Slash-Befehle, leitet Anfragen an das Ollama-Modell weiter und veröffentlicht generierte Antworten direkt in Discord-Kanälen.