vllm-project/speculators
@vllm-project用於在 vLLM 中建構、評估與儲存 LLM 推論推測解碼演算法的統一函式庫。
星數
821
Fork 數
218
語言
Python
授權
Apache-2.0
最後推送
2 天前
相關情報（0）
還沒有相關情報
radar 追蹤的來源裡還沒有出現過這個 repo。收集器照排程執行——等它涵蓋到這個 repo 再回來看看。
用於在 vLLM 中建構、評估與儲存 LLM 推論推測解碼演算法的統一函式庫。
radar 追蹤的來源裡還沒有出現過這個 repo。收集器照排程執行——等它涵蓋到這個 repo 再回來看看。