Tencent/TurboTransformers

Runtime nhanh và thân thiện với người dùng dành cho suy luận transformer (Bert, Albert, GPT2, Decoders, v.v.) trên CPU và GPU.

↗ Mở trên GitHub

Sao

1.550

Fork

208

Ngôn ngữ

C++

Giấy phép

NOASSERTION

Push gần nhất

1 năm trước

C++transformer pytorch gpu decoder nlp inference bert machine-translation roberta huggingface-transformers gpt2 albert

Chưa có intel liên quan

Kho mã này chưa xuất hiện trong bất kỳ nguồn nào radar theo dõi. Bộ thu thập chạy theo lịch — hãy quay lại khi nó bao quát kho mã này.