xlite-dev/Awesome-LLM-Inference

📚コード付きの素晴らしいLLM/VLM推論論文の厳選リスト：Flash-Attention、Paged-Attention、WINT8/4、Parallelismなど🎉

↗ GitHub で開く

スター

5,482

フォーク

429

言語

Python

ライセンス

GPL-3.0

最終プッシュ

3 週間前

Python llm-inference vllm deepseek tensorrt-llm deepseek-r1 flash-attention paged-attention qwen3 deepseek-v3 awesome-llm flash-attention-3 flash-mla minimax-01 mla

関連 Intel はまだありません

このリポジトリは radar が追跡するソースにまだ登場していません。コレクターはスケジュールで動いています——このリポジトリがカバーされたらまた見てください。