跳到主要內容
buildradar
Sign in

xorbitsai/inference

@xorbitsai

只需更改一行程式碼,即可將 GPT 替換為任意 LLM。Xinference 讓你在雲端、本地或筆記型電腦上運行開源、語音與多模態模型,統一的生產級推論 API

星數
9,537
Fork 數
865
語言
Python
授權
Apache-2.0
最後推送
7 天前
Pythonmachine-learningllmvllmpytorchwhisperopenai-apiartificial-intelligenceqwentransformersinferenceglmllama-cppdeploymentkimigemmallamacppdiffuserssglangkimi-k3glm-5-3

還沒有相關情報

radar 追蹤的來源裡還沒有出現過這個 repo。收集器照排程執行——等它涵蓋到這個 repo 再回來看看。