Une bibliothèque Python open-source pour exécuter des appels parallèles GPT-3/4, améliorant le débit et la fiabilité dans les flux de travail par lot de prompts.
Par GPT fournit une interface simple pour dispatcher en parallèle de gros volumes d'appels GPT d'OpenAI, optimisant l'utilisation de l'API et réduisant la latence de bout en bout. Les développeurs définissent des tâches de prompt, et Par GPT gère automatiquement les workers en sous-processus, impose des limites de débit, refait les demandes échouées et consolide les sorties en résultats structurés. Il supporte la personnalisation du nombre de workers, des délais d'attente et des contrôles de concurrence sur Windows, macOS et Linux.
Fonctionnalités principales de Par GPT
Exécution parallèle des appels GPT-3/GPT-4
Concurrence configurable et limites de taux
Reprise automatique et gestion des erreurs
Agrégation des résultats en JSON ou CSV
Support pour modèles de prompt et entrées dynamiques
Skeernir est un cadre open-source d'agents IA conçu pour accélérer le développement d'agents maître marionnette pour l'automatisation de jeux et l'orchestration de processus. Le projet comprend un modèle de base, des API principales et des modules d'exemple illustrant comment connecter la logique de l'agent aux environnements cibles, que ce soit pour simuler des parties ou contrôler des tâches du système d'exploitation. Son architecture extensible permet aux utilisateurs de mettre en œuvre des stratégies de prise de décision personnalisées, d'intégrer des modèles d'apprentissage automatique et de gérer le cycle de vie des agents sur Windows, Linux et macOS. Avec une journalisation intégrée et un support de configuration, Skeernir facilite les tests, le débogage et le déploiement d'agents IA autonomes.