跳到主要內容
buildradar
Sign in
主題 · paged-attention

paged-attention

標記 paged-attention 主題、收錄中的開源專案,依星數排序。

專案數
3
總星數
6,717
平均星數
2,239
佔比
0.00%

常跟 paged-attention 一起出現在同一個專案上的主題。

近期新秀

近 90 天內建立、標記 paged-attention 主題的專案。

近 90 天內還沒有新專案標記這個主題。

  • Awesome-LLM-Inference@xlite-dev

    📚 精選Awesome LLM/VLM推理論文與程式碼清單:Flash-Attention、Paged-Attention、WINT8/4、Parallelism等。🎉

    5,482+3近 7 天星數變化
  • pegainfer@pegainfer-project

    純 Rust + CUDA LLM 推論引擎 — 無需 PyTorch,相容 OpenAI,支援 Qwen3 至 Kimi-K2 服務

    678+17近 7 天星數變化
  • tessera@zengxiao-he

    從教師模型到模型切片——從零開始的 LLM 蒸餾與服務引擎:包含自訂 Triton/CUDA 核心、FSDP 蒸餾、paged-KV 連續批次處理、推測解碼、Rust 閘道、JAX 預測器與可解釋性工具。

    566+30近 7 天星數變化
← 返回主題列表