Chuyển tới nội dung chính
buildradar
Sign in

FMInference/H2O

@FMInference

[NeurIPS'23] H2O: Heavy-Hitter Oracle cho suy luận tạo sinh hiệu quả của các mô hình ngôn ngữ lớn.

Sao
532
Fork
89
Ngôn ngữ
Python
Giấy phép
Push gần nhất
2 năm trước
Pythonlarge-language-modelshigh-throughputgpt-3heavy-hitterskv-cachesparsity

Chưa có intel liên quan

Kho mã này chưa xuất hiện trong bất kỳ nguồn nào radar theo dõi. Bộ thu thập chạy theo lịch — hãy quay lại khi nó bao quát kho mã này.