xorbitsai

只需更改一行程式碼，即可將 GPT 替換為任意 LLM。Xinference 讓你在雲端、本地或筆記型電腦上運行開源、語音與多模態模型，統一的生產級推論 API

具備 API 相容性且極速的擴充式 Python DS 與 ML 工具。