WeianMao/triattention
@WeianMaoTriAttention — Suy luận dài hiệu quả với tính năng nén bộ nhớ đệm KV lượng giác. Cho phép triển khai cục bộ OpenClaw trên các GPU có bộ nhớ hạn chế.
Sao
848
Fork
79
Ngôn ngữ
Python
Giấy phép
Apache-2.0
Push gần nhất
1 tháng trước
Intel liên quan (0)
Chưa có intel liên quan
Kho mã này chưa xuất hiện trong bất kỳ nguồn nào radar theo dõi. Bộ thu thập chạy theo lịch — hãy quay lại khi nó bao quát kho mã này.