predibase/lorax

可扩展至数千个微调LLM的Multi-LoRA推理服务器

↗ 在 GitHub 打开

星数

3,827

Fork 数

327

语言

Python

许可

Apache-2.0

最后推送

3个月前

Python llm gpt llm-inference lora pytorch fine-tuning transformers llmops llama llm-serving model-serving

还没有相关情报

radar 追踪的来源里还没有出现过这个 repo。收集器按计划运行——等它覆盖到这个 repo 再回来看看。