xlite-dev/Awesome-LLM-Inference

📚 精選Awesome LLM/VLM推理論文與程式碼清單：Flash-Attention、Paged-Attention、WINT8/4、Parallelism等。🎉

↗ 在 GitHub 開啟

星數

5,482

Fork 數

429

語言

Python

授權

GPL-3.0

最後推送

4 週前

Python llm-inference vllm deepseek tensorrt-llm deepseek-r1 flash-attention paged-attention qwen3 deepseek-v3 awesome-llm flash-attention-3 flash-mla minimax-01 mla

還沒有相關情報

radar 追蹤的來源裡還沒有出現過這個 repo。收集器照排程執行——等它涵蓋到這個 repo 再回來看看。