メインコンテンツへスキップ
buildradar
Sign in

efeslab/Nanoflow

@efeslab

スループット指向の LLM 向け高性能サービング フレームワーク

スター
975
フォーク
53
言語
Jupyter Notebook
ライセンス
最終プッシュ
5 か月前
Jupyter Notebookllmcudallama2inferencellm-servingmodel-serving

関連 Intel はまだありません

このリポジトリは radar が追跡するソースにまだ登場していません。コレクターはスケジュールで動いています——このリポジトリがカバーされたらまた見てください。