Chuyển tới nội dung chính
buildradar
Đăng nhập

zengxiao-he/tessera

@zengxiao-he

Từ mô hình giáo viên đến mô hình tối ưu — engine chưng cất & phục vụ LLM từ đầu: các kernel Triton/CUDA tùy chỉnh, chưng cất FSDP, phân trang KV batching liên tục, giải mã suy đoán, gateway Rust, oracle JAX và công cụ diễn giải.

Sao
566
Fork
9
Ngôn ngữ
Python
Giấy phép
NOASSERTION
Push gần nhất
3 tháng trước
Pythonrustllmcudapytorchjaxquantizationknowledge-distillationtritoninference-enginefsdpkv-cacheflash-attentionmechanistic-interpretabilityml-systemspaged-attentionspeculative-decoding

Chưa có intel liên quan

Kho mã này chưa xuất hiện trong bất kỳ nguồn nào radar theo dõi. Bộ thu thập chạy theo lịch — hãy quay lại khi nó bao quát kho mã này.