predibase/lorax

可擴展至數千個微調LLM的Multi-LoRA推理伺服器

↗ 在 GitHub 開啟

星數

3,827

Fork 數

327

語言

Python

授權

Apache-2.0

最後推送

3 個月前

Python llm gpt llm-inference lora pytorch fine-tuning transformers llmops llama llm-serving model-serving

還沒有相關情報

radar 追蹤的來源裡還沒有出現過這個 repo。收集器照排程執行——等它涵蓋到這個 repo 再回來看看。