跳到主要內容
buildradar
登入

efeslab/Nanoflow

@efeslab

一個針對 LLM 打造、以高吞吐量為導向的高效能服務框架

星數
975
Fork 數
53
語言
Jupyter Notebook
授權
最後推送
5 個月前
Jupyter Notebookllmcudallama2inferencellm-servingmodel-serving

還沒有相關情報

radar 追蹤的來源裡還沒有出現過這個 repo。收集器照排程執行——等它涵蓋到這個 repo 再回來看看。