harleyszhang/llm_note

Notas sobre LLM, incluyendo inferencia de modelos, estructura de modelos transformer y análisis de código de frameworks de LLM.

↗ Abrir en GitHub

Estrellas

889

Bifurcaciones

90

Lenguaje

Python

Licencia

—

Último push

hace 3 semanas

Python llm llm-inference vllm transformer-models kv-cache cuda-programming triton-kernels

Aún no hay intel relacionado

Este repo no ha aparecido en ninguna de las fuentes que rastrea el radar. El recopilador funciona con un horario — vuelve cuando lo haya cubierto.