EricLBuehler/candle-vllm
@EricLBuehlerOpenAI互換APIサーバーを含む、ローカルLLMの推論とサービングのための効率的なプラットフォーム。
スター
722
フォーク
88
言語
Rust
ライセンス
MIT
最終プッシュ
2 日前
関連 Intel（0）
関連 Intel はまだありません
このリポジトリは radar が追跡するソースにまだ登場していません。コレクターはスケジュールで動いています——このリポジトリがカバーされたらまた見てください。
OpenAI互換APIサーバーを含む、ローカルLLMの推論とサービングのための効率的なプラットフォーム。
このリポジトリは radar が追跡するソースにまだ登場していません。コレクターはスケジュールで動いています——このリポジトリがカバーされたらまた見てください。