andrewkchan/yalm

Yet Another Language Model: Suy luận LLM bằng C++/CUDA, không sử dụng thư viện ngoại trừ I/O.

↗ Mở trên GitHub

Sao

597

Fork

64

Ngôn ngữ

C++

Giấy phép

—

Push gần nhất

12 tháng trước

C++cpp machine-learning llm cuda llm-inference llama inference-engine mistral llamacpp

Chưa có intel liên quan

Kho mã này chưa xuất hiện trong bất kỳ nguồn nào radar theo dõi. Bộ thu thập chạy theo lịch — hãy quay lại khi nó bao quát kho mã này.