Petals 是一個用於大型語言模型去中心化推理和微調的平台,使用類似於 BitTorrent 的網絡。
AI 研究人員、機器學習工程師、數據科學家和愛好者可以使用 Petals 共同運行大型語言模型。
Petals 通過在參與者的網絡中分散運行大型語言模型的計算負載來運作,類似於 BitTorrent。
是的,Petals 致力於提供免費訪問其分佈式網絡以運行和微調大型語言模型。
目前,Petals 支持網絡和 Linux 平台。
是的,Petals 允許對大型語言模型進行協作微調。
與傳統的卸載方法相比,推理速度可以提高到 10 倍。
不,您可以在現有的硬體上運行 Petals,並利用分佈式網絡獲得額外的計算能力。
是的,Petals 提供用於監控任務進度的儀表板。
您可以從 Petals 網絡上提供的多種大型語言模型中進行選擇。