Uma biblioteca Python de código aberto para executar chamadas paralelas de GPT-3/4, melhorando o fluxo de trabalho e a confiabilidade em tarefas em lote.
Par GPT fornece uma interface simples para despachar grandes volumes de chamadas OpenAI GPT em paralelo, otimizando o uso da API e reduzindo a latência de ponta a ponta. Os desenvolvedores definem tarefas de prompt, e Par GPT gerencia automaticamente subprocessos, aplica limites de taxa, tenta novamente solicitações falhas e consolida as saídas em resultados estruturados. Suporta personalização do número de trabalhadores, tempos limite e controle de concorrência em plataformas Windows, macOS e Linux.