patchy631/time-to-first-token

Roadmap 10 minggu, 30 menit per hari untuk inferensi dan pengoptimalan penyajian LLM. vLLM, SGLang, kuantisasi, decoding spekulatif, benchmarking.

↗ Buka di GitHub

Bintang

881

Fork

103

Bahasa

HTML

Lisensi

Apache-2.0

Push terakhir

3 minggu yang lalu

HTML llm llm-inference vllm mlops roadmap learning-resources sglang

Belum ada intel terkait

Repositori ini belum muncul di sumber mana pun yang dilacak radar. Kolektor berjalan sesuai jadwal — periksa kembali setelah mencakup repositori ini.