xlite-dev/Awesome-LLM-Inference

Liste organisée d'articles de recherche sur l'inférence LLM/VLM avec code : Flash-Attention, Paged-Attention, WINT8/4, parallélisme, etc.

↗ Ouvrir sur GitHub

Étoiles

5 482

Bifurcations

429

Langage

Python

Licence

GPL-3.0

Dernier push

il y a 3 semaines

Python llm-inference vllm deepseek tensorrt-llm deepseek-r1 flash-attention paged-attention qwen3 deepseek-v3 awesome-llm flash-attention-3 flash-mla minimax-01 mla

Aucune intel associée pour le moment

Ce dépôt n'est encore apparu dans aucune des sources que le radar suit. Le collecteur suit un calendrier — revenez une fois qu'il couvre ce dépôt.