RWKV/rwkv.cpp

Suy luận INT4/INT5/INT8 và FP16 trên CPU cho mô hình ngôn ngữ RWKV

↗ Mở trên GitHub

Sao

1.579

Fork

129

Ngôn ngữ

C++

Giấy phép

MIT

Push gần nhất

1 năm trước

C++machine-learning llm deep-learning language-model quantization ggml rwkv

Chưa có intel liên quan

Kho mã này chưa xuất hiện trong bất kỳ nguồn nào radar theo dõi. Bộ thu thập chạy theo lịch — hãy quay lại khi nó bao quát kho mã này.