xlite-dev/Awesome-LLM-Inference

📚 कोड के साथ बेहतरीन LLM/VLM इन्फेरेंस पेपर्स की क्यूरेटेड सूची: Flash-Attention, Paged-Attention, WINT8/4, Parallelism, आदि।🎉

↗ GitHub पर खोलें

स्टार

5,482

फ़ोर्क

429

भाषा

Python

लाइसेंस

GPL-3.0

आख़िरी push

3 सप्ताह पहले

Python llm-inference vllm deepseek tensorrt-llm deepseek-r1 flash-attention paged-attention qwen3 deepseek-v3 awesome-llm flash-attention-3 flash-mla minimax-01 mla

अभी कोई संबंधित intel नहीं

यह रिपॉजिटरी radar द्वारा ट्रैक किए जाने वाले किसी भी स्रोत में अभी तक नहीं आई है। कलेक्टर एक शेड्यूल पर चलता है — जब यह इस रिपॉजिटरी को कवर करे तब वापस देखें।

संबंधित intel (0)

अभी कोई संबंधित intel नहीं