predibase/lorax

Servidor de inferência Multi-LoRA que escala para milhares de LLMs ajustados

↗ Abrir no GitHub

Estrelas

3.827

Bifurcações

327

Linguagem

Python

Licença

Apache-2.0

Último push

há 3 meses

Python llm gpt llm-inference lora pytorch fine-tuning transformers llmops llama llm-serving model-serving

Ainda não há intel relacionado

Este repo ainda não apareceu em nenhuma das fontes que o radar rastreia. O coletor roda em um cronograma — volte quando ele cobrir este repo.