predibase/lorax

Servidor de inferencia multi-LoRA que se escala a miles de LLM ajustados

↗ Abrir en GitHub

Estrellas

3827

Bifurcaciones

327

Lenguaje

Python

Licencia

Apache-2.0

Último push

hace 3 meses

Python llm gpt llm-inference lora pytorch fine-tuning transformers llmops llama llm-serving model-serving

Aún no hay intel relacionado

Este repo no ha aparecido en ninguna de las fuentes que rastrea el radar. El recopilador funciona con un horario — vuelve cuando lo haya cubierto.