トピック · inference-optimization

inference-optimization

inference-optimization がタグ付けされた追跡中のオープンソースリポジトリを、スター数順に表示します。

リポジトリ

4

総スター数

4,914

平均スター数

1,229

シェア

0.00%

inference-optimization と同じリポジトリに頻繁に登場するトピック。

最近の急上昇

直近 90 日以内に作成され、inference-optimization がタグ付けされたリポジトリ。

#1
llm-inference-engineering ↗@amitshekhariitbhuMarkdown
Learn LLM Inference Engineering step by step - from KV cache, PagedAttention, and continuous batching to vLLM, SGLang, and GPUs.
★ 221

#1
XNNPACK ↗@googleC
モバイル、サーバー、Web向けの効率的な浮動小数点ニューラルネットワーク推論演算子
★ 2,437+6直近 7 日のスター増減
#2
efficient-dl-systems ↗@mryabJupyter Notebook
効率的なディープラーニングシステムコースの教材
★ 1,028+4直近 7 日のスター増減
#3
BladeDISC ↗@alibabaC++
BladeDISC は、機械学習ワークロード向けのエンドツーエンドの動的シェイプコンパイラプロジェクトです。
★ 932-1直近 7 日のスター増減
#4
krasis ↗@brontoguanaC++
Krasis は、VRAM が限られたコンシューマー向けハードウェア上で大型モデルを効率的に実行することに特化したハイブリッド LLM ランタイムです
★ 516+3直近 7 日のスター増減

← トピック一覧に戻る