andrewkchan/yalm

Yet Another Language Model: inferência de LLM em C++/CUDA, sem bibliotecas além de I/O.

↗ Abrir no GitHub

Estrelas

596

Bifurcações

64

Linguagem

C++

Licença

—

Último push

há 12 meses

C++cpp machine-learning llm cuda llm-inference llama inference-engine mistral llamacpp

Ainda não há intel relacionado

Este repo ainda não apareceu em nenhuma das fontes que o radar rastreia. O coletor roda em um cronograma — volte quando ele cobrir este repo.