predibase の追跡中のオープンソースリポジトリを、スター数順に表示します。
数千のファインチューニングされたLLMに対応するマルチLoRA推論サーバー。
大規模言語モデルの蒸留に関するベストプラクティス