predibase/lorax

数千のファインチューニングされたLLMに対応するマルチLoRA推論サーバー。

↗ GitHub で開く

スター

3,827

フォーク

327

言語

Python

ライセンス

Apache-2.0

最終プッシュ

3 か月前

Python llm gpt llm-inference lora pytorch fine-tuning transformers llmops llama llm-serving model-serving

関連 Intel はまだありません

このリポジトリは radar が追跡するソースにまだ登場していません。コレクターはスケジュールで動いています——このリポジトリがカバーされたらまた見てください。