Dépôts open source suivis de Wenyueh, triés par étoiles.
Basé sur Nano-vLLM, une réplication simple de vLLM avec une implémentation autonome de paged attention et flash attention.