andrewkchan/yalm

Yet Another Language Model: inferencia de LLM en C++/CUDA, sin bibliotecas excepto para E/S

↗ Abrir en GitHub

Estrellas

596

Bifurcaciones

64

Lenguaje

C++

Licencia

—

Último push

hace 12 meses

C++cpp machine-learning llm cuda llm-inference llama inference-engine mistral llamacpp

Aún no hay intel relacionado

Este repo no ha aparecido en ninguna de las fuentes que rastrea el radar. El recopilador funciona con un horario — vuelve cuando lo haya cubierto.