predibase/lorax

Server inferensi Multi-LoRA yang dapat diskalakan hingga ribuan LLM yang telah di-fine-tune.

↗ Buka di GitHub

Bintang

3.827

Fork

327

Bahasa

Python

Lisensi

Apache-2.0

Push terakhir

3 bulan yang lalu

Python llm gpt llm-inference lora pytorch fine-tuning transformers llmops llama llm-serving model-serving

Belum ada intel terkait

Repositori ini belum muncul di sumber mana pun yang dilacak radar. Kolektor berjalan sesuai jadwal — periksa kembali setelah mencakup repositori ini.