harleyszhang/llm_note

Notas sobre LLM, incluindo inferência de modelos, estrutura de modelos transformer e notas de análise de código de frameworks de LLM.

↗ Abrir no GitHub

Estrelas

890

Bifurcações

90

Linguagem

Python

Licença

—

Último push

há 3 semanas

Python llm llm-inference vllm transformer-models kv-cache cuda-programming triton-kernels

Ainda não há intel relacionado

Este repo ainda não apareceu em nenhuma das fontes que o radar rastreia. O coletor roda em um cronograma — volte quando ele cobrir este repo.